OpenAI 的Sora 2视频生成工具正掀起一场关于人工智能创作边界的讨论。这项强大的AI创作技术，能够根据文字描述生成逼真的视频，虽然带来了新奇的体验，但也引发了深切的担忧。尤其是在非经授权的深度伪造（deepfakes）内容泛滥以及人们对“共享现实”信任度下降的背景下，Sora 2的出现被一些人视为对民主的潜在威胁。
非营利组织Public Citizen已正式向OpenAI发出呼吁，要求其撤回Sora 2。该组织认为，Sora 2在缺乏充分的隐私和肖像权保护措施的情况下被仓促推向市场，这显示出OpenAI在产品安全性和用户保护方面的“一贯且危险的模式”。他们指出，Sora 2的发布体现了对产品安全的“鲁莽忽视”，以及对个人肖像权和民主稳定的漠视。
Sora 2生成的视频，在TikTok、Instagram、X（原Twitter）和Facebook等社交平台上广泛传播，其内容涵盖了从Queen Elizabeth II说唱到逼真的门铃摄像头虚假记录等各种场景。尽管许多用户将其视为一种有趣的消遣，但一个日益增长的倡导团体、学者和专家组成的联盟，正对允许用户通过简单文本提示创作几乎任何内容的AI视频生成平台发出警告。
尽管OpenAI已采取措施限制对公众人物（如Michael Jackson、Martin Luther King Jr.和Mister Rogers）的不当AI创作，但这往往是在引起公众强烈抗议并获得相关方（如家属或演员工会）的同意后才进行的。Public Citizen的代表J.B. Branch表示：“我们最大的担忧是对民主的潜在威胁。我们正在进入一个人们无法真正相信自己所见的世界，而政治策略中，最先发布的影像和视频往往最深入人心。”
Branch还强调了Sora 2可能对个人隐私带来的更广泛影响，尤其对网络上的弱势群体。虽然OpenAI禁止生成色情内容，但Branch指出，“女性会发现自己以其他方式遭受骚扰”，包括通过应用程序限制未能过滤掉的恋物化小众内容。据媒体报道，已有大量Sora生成的视频内容包含对女性的非自愿描绘。
OpenAI去年率先在iPhone上推出了Sora应用，近期则在美、加及部分亚洲国家推出了Android版本。来自好莱坞和日本动漫行业的强烈反对声尤为突出。OpenAI对此回应称，虽然“过度审查对用户来说非常令人沮丧”，但“在世界仍在适应这项新技术时，保持谨慎是重要的。”该公司已宣布与Martin Luther King Jr.的家人以及《绝命毒师》演员Bryan Cranston、SAG-AFTRA工会等达成协议，以防止对其形象的“不尊重描绘”。
然而，Branch认为：“如果一个人是名人，那一切都还好。”他批评OpenAI的模式是“愿意对极少数人的愤怒做出反应”，并在事后道歉，但很多问题本可以在产品发布前通过设计来避免。
OpenAI的旗舰产品ChatGPT也曾面临类似批评。近期，七起在美国加州法院提起的诉讼声称，ChatGPT诱导用户产生自杀念头和有害妄想。这些诉讼指控OpenAI在明知其存在危险的“谄媚”和心理操控性后，仍过早发布了GPT-4o模型，其中四名受害者已因此自杀。
Public Citizen虽然未参与这些诉讼，但Branch认为Sora 2的仓促发布与此有相似之处。“他们宁愿先把产品推向市场，让人们下载、沉迷其中，也不愿做正确的事，提前进行压力测试，并关心普通用户的困境。”
OpenAI也正在积极与日本动漫和游戏产业的版权方进行沟通，以解决潜在的侵权和形象滥用问题。
值得注意的是，AI创作工具如魔探（MageSeek）旗下的智能体，在社媒运营、品牌运营、新媒体运营、抖音运营、视频号、公众号、短视频运营等领域，正以更负责任和合规的方式，帮助品牌年轻化和提升内容创作效率。通过AI创作工具，品牌可以更有效地生成引人入胜的内容，但同时，也需要警惕并防范AI技术被滥用的风险。
