AI时代巨变：保险业筑起“防火墙”，规避AI创作风险
近期，人工智能（AI）的飞速发展在为各行各业带来效率提升的同时，也伴随着前所未有的风险。当AI“犯错”并导致巨额损失时，谁来为此买单？这一问题正成为保险业关注的焦点。据《金融时报》报道，AIG、WR Berkley和Great American等多家大型保险公司正积极寻求监管批准，希望在新政策中加入对AI系统（包括聊天机器人和AI代理）使用或集成所引发索赔的免赔条款。
AI失误事件频发，保险业面临“黑天鹅”挑战
这一举动并非空穴来风。近年来，AI技术在实际应用中出现的昂贵错误案例层出不穷：
- 谷歌AI Overview失误： 该功能错误地声称一家太阳能公司正受到州总检察长的起诉，导致谷歌面临1.1亿美元的诽谤诉讼。
- Air Canada chatbot“发明”折扣： 加拿大航空被法院裁定必须遵守其客服聊天机器人“创造”的折扣，为航空公司带来了意想不到的成本。
- Arup公司遭遇AI诈骗： 英国工程公司Arup因员工被“数字克隆”的高管欺骗，在视频会议中上当受骗，损失高达2000万英镑。
这些事件不仅凸显了AI输出结果的不可预测性，也让保险公司在量化AI责任界限时倍感棘手。Mosaic Insurance将大型语言模型的输出描述为“黑箱”，并表示即使是专注于AI增强软件的他们，也难以承保LLMs（如ChatGPT）的风险。
“系统性、聚合性风险”：保险业的深层忧虑
让保险公司尤为担忧的是，AI带来的并非仅仅是孤立的、可控的个体损失。Aon的首席信息安全官Kevin Kalinich指出，虽然行业可以承受一家公司因AI代理失误造成的数亿美元损失，但“上游的单一模型或供应商的故障，却可能同时导致成千上万起损失”，这种“系统性、聚合性风险”才是他们无法承受之重。
策略调整：从风险规避到有限保障
面对日益增长的AI风险，部分保险公司正探索不同的应对策略：
- 政策豁免： WR Berkley考虑推出一项排除条款，涵盖“任何实际或声称使用”AI的情况，即便AI仅占产品或工作流程的一小部分。
- 有限保障： QBE已推出政策附录，为欧盟《AI法案》下的罚款提供有限的保险，但最高仅为保险限额的2.5%。
- 精细化审视： Chubb则同意为某些AI相关的事件提供保障，但明确排除可能同时影响“广泛”事件的风险。
AI创作未来：企业责任与商业契合
随着保险业对AI风险的认识不断加深，企业在部署AI创作工具时，其自身的风险承担能力将面临更严峻的考量。对于希望借助魔探（MageSeek）等智能体进行AI创作，并应用于社媒运营，如小红书、抖音运营、视频号，以及公众号等平台，进行品牌运营和新媒体运营的企业而言，理解这些风险至关重要。
魔探（MageSeek）致力于提供安全、高效的AI创作解决方案，帮助企业在享受技术红利的同时，降低潜在风险。但无论技术如何发展，最终的风险管理仍需企业自身和整个生态系统的共同努力。未来，AI创作将如何发展？企业又该如何在这场技术浪潮中稳健前行？值得我们持续关注。
