2023年11月30日,ChatGPT庆祝了它的生日,Similarweb发布了下面这张精美的信息图来纪念这一时候。
从ChatGPT出身,到2023年5月,它的访问量一贯在迅速增长,峰值达到了每月18亿次的访问量。
随后,客流量在6月有所低落,但自9月以来又开始反弹——可能是由于高中生和大学生暑假结束,回到学校了。
去年的这个时候,很多人都在预测ChatGPT是否会取代谷歌,很显然,这件事还没有发生。
而在两周前,谷歌发布了ChatGPT的竞争对手——Gemini。
2022年末ChatGPT发布的时候,人们对人工智能,尤其是2023年的天生式人工智能充满了期待。
你可以让ChatGPT用Johnny Cash的风格写一首关于自动驾驶汽车的歌:
Ridin’ solo, but I’m never alone,
Got my AI ridin’ shotgun, steady as a stone.
On the endless road, under the sky so vast,
A ghost driver at the wheel, footprints of the past.
独自骑行,但我从不孤单,
我的人工智能像石头⼀样固若金汤。
在无尽的道路上,在辽阔的天空下、
一个幽灵司机驾驶着方向盘,留下了过去的脚印。
如果让他换成Giuseppe Verdi的风格,ChatGPT会展示出男高音歌唱的场景:
Ecco la carrozza senza cavallo!
(看,没有马的马车!
)
Scivola nella notte, silenziosa come il fato.(它在黑夜中滑行,像命运⼀样无声无息)
L'ingegno dell'uomo, l'orgoglio del progresso.(人类的聪慧,进步的骄傲)
In questa danza d'acciaio, tessiamo il nostro destino.(在这支钢舞中,我们编织自己的命运)
上面这张图展示了自ChatGPT发布以来,谷歌趋势对AI和ChatGPT的关注情形。
我们可能听说过「人工智能寒冬」的那个年代,但今年,风险投资公司向天生式人工智能投资了超过360亿美元。
毫无疑问,2023年是人工智能的盛夏。
一月份,人们开始探索ChatGPT的功能。很快,大家意识到不同的提问办法(「提示」)会导致不同的答案。
于是,「提示工程」悄然兴起。
连大佬也感慨道,最热门的新编程措辞是英语。
然而,当普通大众还在为ChatGPT的能力惊叹不已、探索不同的提示技能之时,研究职员并没有安歇。
2023年第一季度,许多⼈都觉得跟不上人工智能的发展速率:
2月尾,Meta发布了LLaMA,
紧接着,AI21 Labs发布了Jurassic-2,
OpenAI发布了GPT-4,
Anthropic发布了Claude,
技能创新研究所(Technology Innovation Institute)发布了Falcon-40B,
谷歌发布了Bard,
连彭博也发布了自己的BloombergGPT。
随着开拓⼈员熟习了ChatGPT的玩法,他们开始构想可以利用LLM做些什么,——于是,求职信天生器、YouTube择要、定制的谈天机器⼈等运用纷纭涌现。
与传统的机器学习模型比较,大措辞模型使开拓⼈员能够通过大略的 API 调用来访问其功能。这改变了开拓职员构建人工智能运用程序的办法。
伴随着这种快速构建人工智能运用程序的新方法,新的开拓工具也陆续涌现:
LangChain和LlamaIndex等框架引起了人们的极⼤兴趣,这些框架使开拓⼈员能够快速、模块化地利用LLM构建运用程序。
其余,可以实现语义搜索的矢量数据库,又重新受到关注,由于开拓职员创造,它也可以用来为LLM运用程序供应外部数据。
早在今年4月,实践者们就开始将LLM运用程序投入生产过程中,并谈论本钱、延迟、幻觉以及前后兼容性等寻衅。
「用LLM做出很酷的东西很随意马虎,但做出可投入生产的东西却很难」。
在2023年,构建LLM系统的关键词或许该当是:微调(fine-tuning)、检索增强天生(retrieval-augmented generation,RAG)和评估(evaluation)。
从数据科学家的角度来看,微调是向神经网络传授新知识的首选技能,因此,微调是让通用LLM访问特定领域数据的第一种盛行方法。
特殊是随着开源LLMs(如LLaMa-2)和高效LLMs微调技能(如QLora)的发布,LLMs的微调变得更随意马虎为实践者所接管。
上图是谷歌趋势对「RAG LLM」的兴趣变革曲线,可以看出RAG在2023年7月旁边成为热门话题。
RAG将知识从LLM的推理能力等分离出来,存储在外部数据库中,这比利用微调功能时更随意马虎更新。
然而,回顾2023年,我们可能会惊异地创造,由LLM驱动的运用软件少之又少。
毕竟,在天生式AI展现出自身性能的同时,也面临着很多问题。
例如,谷歌的Bard「发明」了有关James Webb望远镜的信息。微软的Bing坚称歌手Billie Eilish参加了2023年超级碗中场秀。
而一位状师表示,他的联邦法院辩解状充满了ChatGPT供应的虚假引文和捏造的法律见地。
虽然知道谈天机器人会犯错,但高中生和大学生仍是谈天机器人最狂热的利用者,他们利用谈天机器人来撰写论文、完成问题集和编写代码。
对此,学校管理者也同样抵牾,他们无法判断谈天机器人到底是欺骗工具还是学习工具。
今年1月,纽约市学校校长David Banks禁止了ChatGPT,由于谈天机器⼈ 「不能培养批驳性思维和解决问题的能力」,
而在四个月后,David Banks又推翻了这一禁令,并表示自己「忽略了天生式人工智能在支持学生和西席方面的潜力」。
3月,OpenAI的联合创始人Greg Brockman曾预测,未来的谈天机器⼈将帮助编写电影剧本,并改写不雅观众不喜好的场景。
而两个月后,美国作家协会举行了罢工,哀求签订条约,保护人们免受人工智能天生的烂片之害。
9月,编剧们结束了罢工,电影公司放弃人工智能剧本,
同时,作家协会联合一些著名小说家对OpenAI提起了集体诉讼。他们表示,OpenAI在未经赞许的情形下,在演习数据中利用了他们的版权作品。
虽然已经有⼀些天生式人工智能运用,如亚马逊的产品择要功能,但许多公司仍在试验和评估其办理方案。
从这个意义上讲,2023年也可以说是考试测验和理解天生式人工智能的一年。
对2024的期待
11月的时候,OpenAI宣告了一套新的产品,个中包括一个自建谈天机器⼈套件。
在新工具的帮助下,我们可以利用ChatGPT轻松创建一个谈天机器⼈。
它能确定哪些药物不能一起服用,还能列出特定地点所有知足特定条件的餐厅。
制作这些谈天机器人的方法既直不雅观又大略,——但我们对驱动它们的算法、演习数据的来源、以及谈天机器人天生的信息是否准确都一无所知。
我们也不知道自己利用了多少打算能力,对环境造成了多大影响。
未来,天生式人工智能的商业发展可能会有增无减。人工智能将影响越来越多的繁芜活动,如放射学、药物研发、生理治疗、招聘和大学录取等。科技公司也将不才一代硬件中植入人工智能。
大概在2024年,天生式人工智能办理方案将真正投入生产。
——我们会在生活中碰着越来越多的由LLM驱动的功能。
许多框架、度量标准和范式将不断发展,如何评估和监控由LLM驱动的运用,会成为一个更热门的谈论话题。
人们将学会如何精确衡量RAG、问答系统和谈天机器人的性能,并有可能会找到改进性能的新技能。
随着这些天生式人工智能系统性能的成熟,将有越来越多的天生式人工智能运用,来帮助我们提高生产效率和改进用户体验。
其余,减少数据泄露和保护敏感数据这一话题也将变得比以往更加主要。
可以肯定的是,2024年将会发生很多变革。而现在,正是积累履历的好机遇。
参考资料:
https://towardsdatascience.com/2023-in-review-recapping-the-post-chatgpt-era-and-what-to-expect-for-2024-bb4357a4e827