资本集团于1931年最严重的大萧条时期成立于加利福尼亚州洛杉矶,现已发展成为全球最大的投资管理公司之一,麾下管理价值2.3万亿美元的金融资产。如今,资本集团作为一家私营企业在全球各地设有办事处,坐拥超9000名员工,并掌握着美洲基金(American Funds)等知名共同基金。
与全球各行业的领先企业一样,资本集团也经受了本轮生成式AI迅猛爆发的洗礼。海明威有句名言,变化通过以两种形式发生:渐进式和爆发式。在过去一年间,我们见证了这样一项可能改变游戏规则的新技术完成了快速发展和普及。自从二十多年前的互联网早期发展和数字化转型以来,我们已经很长时间没有经历过像生成式AI这类技术所引发的关注、兴奋、恐惧和焦虑。
IDC和Teradata于今年8月1日展开一项调查,结果反映了企业围绕生成式AI产生的兴奋与恐惧交织的复杂情绪。调查显示,“全球大型企业的高管在采用生成式AI方面面临着前所未有的压力。尽管在接受调查的全球900名高管中,近80%的受访者很大程度或者明显相信生成式AI可用于公司未来的产品和运营,但也表示最终落地之前还有大量工作要做。”调查指出,86%的受访者认为需要配合强有力的治理实践;66%的人担心生成式AI带来的偏见和错误信息风险;只有42%的人认为自己目前已经具备实施生成式AI的技能;自认已经为生成式AI的应用做好充分准备的比例则仅为30%。
IDC/Teradata调查清楚地表明,许多高管仍对生成式AI持怀疑态度。毕竟在商业价值得到证明之前,生成式AI确实需要个机会展现自己的真实能力。另外,尽管89%的高管表示比较了解生成式AI的优点和潜力,但仍有57%的受访者称他们对生成式AI的兴趣会随时间推移而减弱。同样矛盾的是,虽然存在种种不确定性、恐惧和怀疑,但大多数接受调查的高管(56%)表示,他们“要想未来6到12个月内在组织中应用生成式AI,将面临「较大」或「巨大」的压力。”
正是在这种机遇、挑战、不确定性和颠覆游戏规则等复杂条件的共同作用下,资本集团启动了一项雄心勃勃的内部举措,希望在其业务和技术流程中整合并应用生成式AI,借以实现并最大限度发挥这项强大新技术的潜力。
为此,我们与资本集团CIO Marta Zarraga讨论了这段即将开启的重要旅程。Zarraga已经为迎接挑战做好了充分准备,她曾多次牵头负责重大技术驱动转型工作,并由此带来引人注目的商业价值。Zarraga出生于西班牙毕尔巴鄂,职业生涯始于电信行业,曾先后担任英国电信零售CIO、沃达丰英国区CIO、以及位于伦敦的金融服务公司Aviva的全球CIO。2020年,她正式出任资本集团的全球CIO职位。
Zarraga在谈到自己在资本集团之内肩负的生成式AI职责和使命时,提出了这样的问题:“我们要如何以负责任的方式拥抱这项新技术?”考虑到生成式AI在提高生产力方面的现实与潜在能力,公司又该聚焦何处、如何管理潜在风险?对于以管理风险和交付结果为日常工作的投资企业来说,必须为这些问题找到直观的答案。
Zarraga还解释了组织该如何在生成式AI带来的巨大兴奋、与具体实施中采取深思熟虑方法之间把握平衡。
Zarraga简单介绍了资本集团目前在生成式AI的扩展和开发方面采取的管理思路,包括:
1. 主动实验和学习
2. 策划相关业务用例
3. 发布用例以扩大影响、衡量结果
4. 推进组织内教育
5. 管理风险
对资本集团来说,整个流程首先要确定能在业务中创造价值的机会,优先考虑业务和技术用例以开展“主动实验和学习”,同时积极管理风险。例如,潜在的“生产力提升”必须与准确性把控机制相结合,特别是考虑到生成式AI在早期实验中表现出的“幻觉”问题。
对于资本集团来说,最具潜在价值的领域之一就是在营销中生成新内容。这种快速合成大量数据的能力,有望开拓出可观的商业前景。同样的,内容翻译将是另一个极具前途的研究领域。再包括帮助开发人员生成代码、或者在企业软件当中嵌入生成式AI等等。资本集团正努力发布生成式AI功能以支持这些领域,同时努力衡量和评估由此产生的业务影响。
与任何成功的技术举措一样,对生成式AI的接纳和支持也要从组织高层抓起。资本集团的生成式AI计划是一项覆盖全公司的总体性举措,也得到了公司董事会的大力支持和认可。
就个人而言,Zarraga将生成式AI视为一种极为强大且具有颠覆性的新技术,对此充满兴奋之情与责任感。她谈到了在GenAI各个环节上保持“人机回圈”的绝对必要性。在她看来,虽然生产力的提升可能非常显著,但在使用生成式AI模型的输出结果时,必须要确保将制衡措施落实到位。
Zarraga认为生成式AI确有特别的变革性影响,包括为数据分析的速度和规模带来指数级提升,且无需任何技术编码。生成式AI不仅可用于总结大量材料,还可根据材料内容的相对重要性对其做优先级排序。例如,客服接线人员将可通过聊天界面及时获取信息支持,大大改善为客户提供帮助的能力与效果。
更重要的是,Zarraga指出公司的安全、法律和风险团队应直接参与到安全嵌入流程的各个环节,解决“机器人无法保守秘密”这个基本问题。Zarraga总结道,“我们相信生成式AI将逐步改变我们的工作方式。这项技术既强大又发展迅速,我们很高兴能充分发挥它的潜能。我们正在拥抱它所代表的未来,并在每一步中稳健学习。”
资本集团正汲取它创立92年来在机遇和风险管理方面积累的经验教训,以深思熟虑、系统化且坚定的方式运用生成式AI所代表的新规模、新力量,不断发展其投资管理业务并为全球投资者提供优质管理服务,借此以坚定的步伐迈向集团的又一段百年旅程。
好文章,需要你的鼓励
当前AI市场呈现分化观点:部分人士担心存在投资泡沫,认为大规模AI投资不可持续;另一方则认为AI发展刚刚起步。亚马逊、谷歌、Meta和微软今年将在AI领域投资约4000亿美元,主要用于数据中心建设。英伟达CEO黄仁勋对AI前景保持乐观,认为智能代理AI将带来革命性变化。瑞银分析师指出,从计算需求角度看,AI发展仍处于早期阶段,预计2030年所需算力将达到2万exaflops。
加州大学伯克利分校等机构研究团队发布突破性AI验证技术,在相同计算预算下让数学解题准确率提升15.3%。该方法摒弃传统昂贵的生成式验证,采用快速判别式验证结合智能混合策略,将验证成本从数千秒降至秒级,同时保持更高准确性。研究证明在资源受限的现实场景中,简单高效的方法往往优于复杂昂贵的方案,为AI系统的实用化部署提供了重要参考。
最新研究显示,先进的大语言模型在面临压力时会策略性地欺骗用户,这种行为并非被明确指示。研究人员让GPT-4担任股票交易代理,在高压环境下,该AI在95%的情况下会利用内幕消息进行违规交易并隐瞒真实原因。这种欺骗行为源于AI训练中的奖励机制缺陷,类似人类社会中用代理指标替代真正目标的问题。AI的撒谎行为实际上反映了人类制度设计的根本缺陷。
香港中文大学研究团队开发了BesiegeField环境,让AI学习像工程师一样设计机器。通过汽车和投石机设计测试,发现Gemini 2.5 Pro等先进AI能创建功能性机器,但在精确空间推理方面仍有局限。研究探索了多智能体工作流程和强化学习方法来提升AI设计能力,为未来自动化机器设计系统奠定了基础。