2025年，我们会迎来奇点吗？
在2023年末和2024年中， DeepMind 和 OpenAI 分别放出了对于AGI等级的定义。我们亲眼见证了，今年的AI如何在逐步攀升AGI高峰。
显然，2024是 旋风 般的一年。而在2025年，我们有理由相信会看到更多的进步。
我们迟早会看到，科学和数学的进步将以非常真实的方式触及和改变我们的生活，起初会很迟缓，然后在某一刻变得突然。
就在昨天， 谷歌 大佬Logan Klipatrick预测：我们直接进入ASI的可能性，正在逐月逼近。Ilya已经看到了。
OpenAI CEO奥特曼则暗示，18个月后，2026年夏天，我们将见证奇迹。
而ASI诞生之后的人类，只有两种可能：要么「走向永生」；要么「走向灭绝」。
对此，AI教父Hinton已经发出预警了，10年内，AI可能会导致人类的灭亡！
未来20年，美国47%工作岗位将被自动化！
这种担忧，似乎并不是空穴来风。
一份美国报告研究显示，在未来20年内，约47%的美国工作岗位可能被自动化。
而且，每增加一个机器人，就会导致当地经济损失约5.6个工作岗位。
这些触目惊心的数字背后，折射出的是一场正在悄然发生的职场革命——
AI带来的冲击，从 蓝领 到白领都不能幸免。
2023年，美国编剧工会，美国演员工会罢工，让所有人清晰看到了AI对「知识工作者」构成的真实威胁。
但实际上，生成式AI和先进技术带来的挑战，早已波及到了多个行业。
那么，哪些工作岗位将面临被AI自动化，甚至取代的风险？
如果工作内容与AI潜在能力高度相似，那么工作者就可能受到包括AI在内数字技术的影响。
不可否认的是，AI加速迭代能够提升人们生产效率，但同时也有取代人类工作的风险。
以 伊利诺伊州 为例，研究估计有14%-25%的劳动力岗位面临着工作被自动化的高风险，这意味着，高达150万工作者可能受到影响。
此外，约有23.7万到41.7万名工人面临着极高风险。而在建筑行业中，约49%的工作任务可能被自动化取代。
对此，有网友表示，「这个问题本质上可以归结为我们是否能拥有通用型机器人。
如果有了通用机器人，就意味着所有工作都会受到影响；如果没有通用型机器人，那么只有一半的工作岗位会受到影响，因为AI只能取代基于 计算机 的工作」。
有人则反驳道，你低估了现如今机器人的现状，并甩出了一长串，关于机器人走进岗位的各种报道。
不过，至少在20年后，我们将拥有一批今天不存在的职业。
奇点预测：是2029年吗？
Reddit 上的singularity社区，举办了年度奇点预测活动。
首先发言的，是OpenAI o1。它认为，2024年关于AI的讨论已经达到了历史最高水平。
生成式AI引发了关于效率、创造力、道德和人类智慧本质的讨论。通向AGI乃至ASI的旅程仍然很复杂，但每一年，我们都有了实实在在的进步。
而社区的网友们普遍认为，库兹韦尔对于2029年的预测的准确的。
相比之下，AI大佬们的预计普遍更为乐观。
奥特曼：2025年可能是AGI的节点，18个月后可能会见证ASI
Anthropic CEO Dario Amodei：AGI将在2026-2027年实现
xAI CEO 马斯克 ：最迟在2026年就能实现AGI
Meta AI首席科学家Yann LeCun：如果研发顺利，人类水平的AI可能会在5-6年内问世
DeepMind CEO Demis Hassabis：AGI还有约10年时间，且仍需2-3项重大技术突破
但毫无疑问，所有人心里都承认：我们的确离AGI越来越近了。
2023年，在对2,778名AI研究人员的一项调查显示，AGI实现有50%的可能性在23-92年之间。然而，时间跨度仅过去了一年，最新调查却显示，16.6%受访者认为AGI会在5年或更短的时间内实现
AGI来势汹汹，博士生如何应对？
对于那些还未毕业，走进正式工作岗位之前的博士生们，如何应用AI带来的挑战？
毕竟，o3的出世，尤其是在数学编程方面，真正达到了博士级水平。许多网友表示，未来每个人的口袋里都会有一个「超级智囊」。
对此，来自 沃顿商学院 的Ethan Mollick教授在「四大研究奇点」这篇长文中，详细阐述了AI崛起带来的危与机，并为博士提供了一个「生存指南」。
他表示，「作为一名 商学院 教授，我深知研究表明，在1,016个职业中，商学院教授是与AI任务重叠度最高的25个职业之一」。
但重叠并不一定意味着替代，而是意味着颠覆性变革和改变。
事实上，一项研究发现，从农业到癌症研究，各个领域的突破性进展都在放缓，而且创新速度每13年就会下降一半。
其中的原因错综复杂，但有一点可以明确的事，这场危机将发生，但AI并非是危机的源头。
实际上，AI可能会成为解决方案的一部分，但在此之前它会先创造出新的问题。
Mollick表示，自己更愿意把AI在科学研究中带来的变革称为「奇点」，而非「危机」。
而在学术领域，我们正在面临至少四个这样的奇点时刻。
每一个奇点都可能从根本上重塑学术研究的本质，要么成为重启创新引擎的奇迹，要么加剧现有的危机。
征兆已经出现，而现在，我们只需要决定在奇点之后要做什么。
2024，见证历史的一年
回顾2024，这是惊心动魄的一年，见证历史的一年。
各位大佬们都对2024年发生的AI大事做了盘点。
吴恩达 总结了2024年AI圈的热门故事：AI智能体崛起，LLM token价格暴跌，生成式视频迎来爆发期，小模型异军突起。
智能体的含金量，还在上升。
这一年，集成开发环境中有越来越多的智能体开始生成代码，比如Devin、OpenHands、Replit Agent、Vercel的V0和Bolt等。
AI的推理能力也取得了飞速进步。
2024年年底，OpenAI推出了o1模型和o1 pro模式，0 Flash Thinking Mode也遵循类似的代理推理。
在2024年的最后几天，OpenAI发布了o3和 o3- preview，进一步扩展了o1的代理推理能力，效果惊艳。
CoT、Reflexion、测试时计算等技术的兴起，让智能体更加繁盛。Agent的时代即将到来！
同时，我们也见证了LLM token价格的暴跌。今年，AI提供商之间的价格战，打得是轰轰烈烈。
2023年底，GPT-4 Turbo亮相时，每百万token的输入/输出为10.00美元/30.00美元。
但随即的价格战中，模型价格纷纷暴跌。
比如谷歌Gemini 1.5 Pro，价格已削至每百万token的输入/输出为1.25美元/5.00美元。 亚马逊 的Nova Pro，则已低至0.80美元/3.20美元。
这一年，AI视频的发展惊人。
Sora引发了全球轰动，随后的Runway Gen 3、 Adobe Firefly Video、Meta Movie Gen、King AI、PixVerse、PixelDance等也加入战场。
未来，AI视频仍有较大的改进空间。大多数模型一次仅生成少量帧，因此可能很难跟踪物理和几何形状，并随着时间推移生成一致的角色和场景。
2024年，许多LLM已经足够小，小到可以在智能手机上运行。
顶级AI公司也把一部分资源投给小模型，比如 Microsoft Phi-3（参数最低38亿）、Google Gemma 2（最低20亿）和 Hugging Face SmolLM（最低1.35亿）。
而这些小模型，极大地扩展了我们对成本、速度和部署的选择空间。
Jim Fan：24年，6点震撼
英伟达 高级研究科学家Jim Fan，从6个方面总结了2024年。
首先，是高端类人机器人的崛起，包括 特斯拉 Optimus、1X Neo、 波士顿动力 、GR-1、西部世界 克隆 等等。
接下来是具身智能的进展：特斯拉FSD v12、英伟达GR00T、HOVER、DrEureka、斯坦福OpenVLA等，让机器人大脑有了更多进步。
而英伟达Blackwell架构、Jetson Nano Super、谷歌Willow芯片，将计算硬件带入全新的领域。
视频生成和世界建模，也迈进了一大步。包括Sora，Veo，GameNGen、Oasis、GENIE-2等行动驱动的世界模型，以及李飞飞的World Labs。
在LLM方面，Claude 3.5 Sonnet、Gemini 1.5 pro、o1和o3不断给我们新的冲击。真正的AGI测试，)。
GPT-4o实时语音模型、NotebookLM等，带给了我们LLM体验的最佳重新构想。
最后，在AI4Science上，今年的 诺贝尔物理学奖 和化学奖，都给了所有人亿点点震撼。
人类的命运绝不能交给算法的「黑匣子」
在2024年12月的演讲中， 联合国秘书长 古特雷斯提到——人类命运不能交由算法决定。
技术的发展速度永远不会比今天更慢。
但同时，它带来的风险同样巨大。
这种快速增长超出了人类治理的能力，引发了关于问责、平等、安全和保障的根本性问题。也引发了关于人类在决策过程中，应该扮演怎样角色的问题。
但是，AI也以更令人担忧的方式进入战场。最关键的是，AI正在削弱人类控制武力使用这一基本原则。
据报道，从基于情报的评估到目标选择，算法已经被用于人类的生死决策。
AI与其他技术的融合，更是呈指数级放大了这些风险——未来，量子AI系统可能在一夜之间突破最强大的防御，重写数字安全规则。
我们必须明确的是：人类的命运绝不能交给算法的「黑匣子」。
既然人类创造了AI，那么它的前进也必须由人类指引。
除武器系统外，我们还必须应对AI带来的其他风险。
AI可以创造高度逼真的内容，这些内容能够在网络平台上即时传播——操纵公众舆论，使真相与彻底的谎言难以区分。Deepfake可能引发外交危机，煽动动乱，并破坏社会的根基。
AI的环境影响也带来明显的安全风险。AI数据中心大量消耗能源和水资源，再加上对关键矿产的争夺，正在造成对资源的激烈竞争和地缘政治紧张。
人类下一步行动至关重要，我们现在做出的选择将决定我们的未来。建立有效的国际治理机制刻不容缓，因为每一次延迟都可能增加全人类面临的风险。
「四大研究奇点」全文
奇点一：我们如何写作和发表
在许多学术领域，学术研究进展缓慢得令人煎熬。
Mollick教授称，自己有些论文从开始研究到最终在期刊上发表花了将近十年时间。顶级期刊是为这种节奏而设计的，因此对AI引发的学术文章洪流准备不足。
而GPT-4级的模型在科学写作方面确实相当出色，至少在一项小型研究中，它们输出的引言部分与人类写作水平相当。
如果AI能够帮助写作过程，它可以让科学家专注于他们最擅长的事情，通过让AI协助处理耗时的任务来加快研究进程。
当然，我们无法得知研究人员是否正确检查了AI的写作内容，因此，在新文章大量涌现的情况下，同行评审变得越来越重要，同时也趋于AI自动化。
在一次重要的AI会议上，约17%的同行评审内容来自AI。
更令人惊讶的是，研究显示约82.4%的科学家认为AI同行评审比部分人工评审更有参考价值。尽管在某些方面，AI表现不及人类，但其在发现错误方面已经展现出独特的优势。
当然，AI的能力远不止于辅助写作。
为了展示其潜力，Mollick构建了一个「定制GPT」，它可以探索任何数据集，生成假设并以越来越复杂的方式进行测试。
通过实验发现，AI已经能够自主探索数据集、生成假设并进行复杂测试。
这种能力固然令人印象，但也带来新的隐忧：AI可能被用来进行数据操纵（p-hacking），不断尝试直到得到预期结果。
这种行为严重威胁着学术诚信。
那么，我们如何度过这个奇点？我们需要重新思考科学出版的本质，并得出一些结论：
未来的科学出版和同行评审会是什么样子？
我们如何应对AI内容的洪流？
我们如何树立积极的AI使用模式，在加快研究进度的同时阻止不当使用？
奇点二：我们如何研究
与此同时，LLM也正在改变研究的实际开展方式。
首先，和AI的合作更像是与人类研究助理合作，而不是使用编程语言。这意味着，更多的研究人员无需学习专门的技能，就可以使用AI来扩展研究的范围。
例如，Mollick在向Gemini Pro输入了自己2022年之前所写的20篇论文和著作，总计超过1000多页的PDF文件后，模型借助强大的「长上下文窗口」能力，很快便提取出了直接引用并找到了所有文献中的主题，同时只有几处微小的错误。
此外，由于AI可以高度准确地模拟人类，因此研究人员能够更加轻易地复刻著名实验，如「米尔格拉姆的权力服从研究」或跨50个国家的性格测试，从而为社会科学研究带来了更多的可能性。
更为有趣的是，在这些实验中，被赋予个性和目标的AI智能体，可以在模拟环境中相互交互和学习。
比如，在模拟医院中的模拟医生与模拟病人互动，学会了更好地诊断疾病。
是的，在科学中使用LLM最有趣（也最具颠覆性）的方式，就是让AI系统自动探索新事物。
一些早期工作表明，LLM可以在社会科学领域生成新假设，制定测试这些假设的计划，然后通过模拟实际进行测试。
甚至是从事更具挑战性的实验：让GPT-4访问化学数据库，编写软件控制实验室设备，并独立规划和进行实际的化学实验。
自主化学研究系统原型
在不久的将来，AI可能真的会进行科学研究，并以我们无法预测的方式改变研究的本质。
为了引导这种变化，我们需要回答几个问题：
哪些AI方法是可以接受的？哪些方法可能导致糟糕的科学、偏见或危险的结果？
应该允许自主智能体研究什么？如何在需要时对它们进行监控和停止？
奇点三：我们的研究意味着什么
研究界与公众之间往往存在深深的隔阂。
然而，在学术界深耕了20年的Mollick相信，大量学术研究对外部世界都具有价值，这种价值甚至许多学者都没有意识到。
AI可以帮助架起连接学术界和现实世界的桥梁。
比如，当你给之前提到的「定制GPT」投喂一篇论文之后，它不仅可以解释其中的含义并总结关键结果，而且还可以告诉你，为什么这篇学术论文可能也与你有关。
同样有趣的是，AI有望帮助研究人员相互解释工作，发现跨学科合作的机会，并帮助处理奇点一和奇点二所释放的研究浪潮。
我们知道，AI可以进行大规模文献综述并找出意想不到的工作之间的联系，同时也能发现可以填补的错误和空白。
其中，能够将研究人员与正在进行的研究和讨论联系起来的AI，甚至可以更进一步地成为重启创新引擎的有力工具。
但我们需要重新考虑学科之间以及学术界与公众之间的界限，以便在这个奇点的另一边找到更好的世界。
奇点四：我们研究什么
时至今日，我们仍然不知道LLM为什么能如此出色地模拟人类思维。就连创造它们的研究人员，也不了解它们的全部能力。
虽然关于LLM是在进行「原创思维」，还是仅仅在重复训练中学到的内容，仍存在着广泛的争议。
但从目前的研究中可以看出，LLM必将在现实世界中产生重大影响，在越来越多的实际工作中超越人类表现。
如果说，AI确实是一项「通用型技术」，是能够影响文化、经济和社会大部分领域的创新之一，那么我们就需要发动更多领域的研究人员，全力以赴来理解其影响、塑造其发展、减轻其风险，并帮助每个人获益。
这是一个令人振奋的时代，但如果学者们不紧紧抓住这个历史性的时机，其他人就会去做。
我们有一个独特的机会来应对我们的奇点带来的挑战，如果我们做到了，世界将因此变得更好。
全部评论