大家好，我是LongTalk，2023年11月7日OpenAI 开发者大会上公布了多个重大更新，跟大家总结一下：

ChatGPT

  1. 汇聚了超过200万开发者
  2. 超过92%的财富500强企业在使用ChatGPT
  3. WAU（周活跃用户数）超过1亿

重大更新

  1. 现在无需预先选择功能，所有功能已融合为一体，模型会自动决定是否调用相关功能。
  2. 新推出GPTs，这是类似 Agents 概念的初级版本，提供了基于图形的纯自然语言交互配置界面。用户、开发者和企业都能通过它构建专属的ChatGPT版本，包括自定义文档功能，并能连接个人日历。GPT Store预计将于月底推出。

GPT-4 Turbo

1. 扩展的上下文长度

GPT-4 Turbo 支持的上下文长度最高可达128K Token，这大约是GPT-4当前能力的16倍，同时在准确度上也有所提升。


2. 加强的细粒度控制

API 新增了两个参数来增强控制力度：

  1. JSON 模式：通过“response_format”参数可以仅输出JSON（当然，Prompt 也必须同时要求输出JSON）
  2. 新增参数：“seed”：可以指定一个整数作为 API 调用的 seed 值。只要在其他所有参数保持一致（包括 Prompt 和 temperature）的情况下使用相同的 seed 值，模型将会产生相同的输出。相应的，响应中的 system_fingerprint 值也会保持一致
  3. 接下来几周可以在 API 查看概率对数（Log Probs，在自然语言处理模型中，表示生成某个词或者序列的对数概率，来计算和选择下一个最可能的词。）
JSON modehttps://platform.openai.com/docs/guides/text-generation/json-modeReproducibleoutputs（seed机制介绍）https://platform.openai.com/docs/guides/text-generation/reproducible-outputsFunction callinghttps://platform.openai.com/docs/guides/function-calling/function-calling


3. 知识更新和外部数据源支持

  1. GPT-4更新至2023年4月的知识库
  2. 可以利用外部文档或数据库增强知识储备（具体支持方式未明确说明）。


4. 支持多模态能力

  1. GPT-4 Turbo API 支持图像识别（Vision）、图片生成（DALL-E 3）和文本转语音（TTS）技术，已正式上线。
  2. 开源高性能语音识别模型 Whisper v3将陆续集成至API，增强多语言处理能力。


5. 模型定制服务

  1. 支持16K Token的模型微调。
  2. GPT-4 微调服务将向活跃用户开放申请。
  3. 提供面向企业的定制服务，满足特定行业需求，涵盖知识预训练、强化学习等。（OpenAI说很贵，但很值）


6. 请求速率限制增加

  1. GPT-4 每分钟处理Token数量增加一倍，提升响应速度，支持更长文本处理和更高并发量。
  2. 开发者可在API账户中调整“请求速率限制”以应对不同需求
  3. 加入版权保护措施，对于企业版和API使用中可能出现的版权争议，OpenAI将提供法律支援。

每1000个Tokens的定价如下：

  1. 输入部分为1美分（折合人民币约0.64元）
  2. 输出部分为3美分（折合人民币约1.92元）


新推出API：Assistants API（助手 API）

OpenAI 的 Agents 初步解决方案。开发者可以在自己的应用中创建智能助手。这些助手可以根据设定的指令，使用模型、工具和知识库来解答用户的问题。

  1. 支持多线程对话、集成检索功能、沙盒环境下的Python代码执行器和函数调用支持。
  2. 图形化配置界面，开发者能够后台查看所有用户的对话内容。
Assistants APIhttps://platform.openai.com/docs/assistants/overview/agents


我们能做什么？

如果你是开发者：

  1. Review 自己项目，看看要不要将模型改为GPT-4 Turbo 来获得更高性能的效果
  2. 测试JSON输出模式和指定seed值来稳定输出
  3. 关注 GPT-4 Turbo 的知识更新和外部数据源支持后续支持，判断是否需要迁移
  4. 探索和集成多模态能力，比如图像识别、图片生成和文本转语音技术的产品落地
  5. 关注和利用GPT Store的推出，构建和部署定制的ChatGPT版本


如果你是普通用户，以下功能都需要 Plus 会员：

  1. GPT-4 Turbo
  2. 使用GPTs为自己定制一个专属的ChatGPT
  3. 关注GPT Store的上线，了解如何获取和使用个性化的GPT应用。
  4. 如果对开发感兴趣，可以了解如何利用新API（如Assistants API）进行多线程对话和沙盒环境下的代码执行。