OpenAI 更新对toB开发者意味着什么
昨天晚上OpenAI举行了第一次的开发者大会,那堪称是AI界的春晚,吸引了全球AI从业人员和科技爱好者的关注,让人不由得想起了10年前的苹果开发者大会,那这次开发者大会都讲了什么呢,我帮您大概整理下
对于普通的个人用户来说,OpenAI提供了自定义的GPT,你不用会写代码,也可以针对你的特定任务来做个ChatGPT。另外还有GPT Store,不仅可以丰富AI的应用场景,而且如果运营的好,还可以激发更多的创作者,甚至可能会产生一到两个未来的AI toC的重要公司
面向开发者的更新则是这次OpenAI的重头戏,他们一口气更新了一大堆对于应用开发很重要的能力,比如增加了多模态的API,比如现在可以让模型输出JSON格式,对模型的控制手段更强了。其中有几个功能我想重点聊一聊
其一是GPT4扩展Token长度到了128K,比原来的8k长度扩展了16倍,这和我们之前做出的,年底各家基础模型都会推出超长token版本的预测是一致的。这样toB很多场景,你的Prompt就可以容纳下更长的上下文、更多的业务知识、更多的参考资料,不仅应用的能力变强了,而且你的工程的难度也降低了
还有就是OpenAI推出了Assistant API,其中的Function Call和Retrieval的支持,让大家开发Agent的门槛更低了,可以更低成本的构建基于GPT4的应用,需要做的工程化的部分更少。可能有一些做的比较薄的RAG应用会受到影响,但是我觉得toB只要你深入进了企业的应用场景中,你就知道toB场景有大量的行业know how,这些都需要对行业或者场景的深入了解,所以我觉得对于真正现在能在企业落地的RAG产品是影响不大的
降价也是很重要的一点,新的API价格只有老版本的三分之一,更低的价格能让更多的场景能负担得起GPT4的版本,估计未来一段时间大家会看到GPT4的应用的井喷,这个对AI生态现阶段肯定是个好事
还有一点特别有意思,我在twitter上看到,OpenAI开始向企业提供微调的服务,只要你愿意花上至少两三百万美元,愿意等个几个月,你也可以拥有一个自己版本的GPT4级别的AI,这个对于未来的企业应用,也可能会造成很有趣的影响
这次发布会以后,我看很多人都在分析OpenAI更新的利和弊、喜和忧,讨论对AI开发者是不是一件坏事,其实我个人觉得目前完全没必要悲观。以现在的AI行业的成熟度,技术供给更强、更多、更便宜才能让应用开发百花齐放,才能让更多个人和企业接受AI带来的改变。即便是对LLM中间层有一些影响,在我看来也是短期的、暂时的,长期AI技术的发展对于使用者和开发者只能是好事。如果说唯一可能出现的坏消息,那也会是OpenAI的技术更新低于大家的预期,除了这个之外都谈不上对开发者来说不好。如果你的产品定位被OpenAI吞掉了,只能说明你需要跟上行业的变革,即时做方向上的调整
