ChatGPT露骨涉性对话，令OpenA顾问惊惧
今年1月，OpenAI特聘的负责身心健康与人工智能(AI)问题的顾问委员会与公司代表会面，听取了一项极具争议的新功能——“成人模式”的最新进展。
OpenAI首席执行官山姆·阿尔特曼(Sam Altman)去年曾提出一个想法：让其聊天机器人ChatGPT能够进行色情对话，并取消对此类限制级内容的禁令。他给出的理由是需要“把成年用户当成年人对待”。
该计划在公司内部引发了关于潜在风险的激烈辩论。顾问委员会的成员们也表达了强烈的保留意见，他们拥有心理学和认知神经科学等领域的背景。
据知情人士透露，当顾问委员会成员们在1月举行会议时，他们意见一致，并且感到愤怒。他们警告说，由AI驱动的色情内容可能会让用户对ChatGPT产生不健康的情感依赖，而且未成年人可能会想方设法接触到色情聊天。
这些知情人士称，一名顾问委员会成员援引了一些案例，在这些案例中，ChatGPT用户在与该机器人建立起强烈的情感纽带后结束了自己的生命。该成员声称，OpenAI有可能会创造出一个“性感的自杀教练”。
各界一直在持续探讨如何预判AI对经济、社会和个人的潜在正负面影响，而这场辩论正是这一持续对话中的最新引爆点。
拟在广受欢迎的聊天机器人中放开露骨涉性对话，暴露出OpenAI在平衡“用户快速增长和数字自由”与“安全和儿童保护”方面的分歧。许多人认为，这些问题在上一代社交媒体问世时，就未能得到及时正视。
本月早些时候，OpenAI宣布将推迟“成人模式”的发布，该功能原定于第一季度推出。该公司称，正在优先开发其他产品。知情人士表示，这一变动的部分原因还在于内部的担忧和技术上的挑战。但该公司明确表示，最终仍计划推出这一功能。
据知情人士称，该公司正在解决的一个问题是：旨在防止未成年人进行成人主题聊天的新年龄预测系统，一度出现约12%的误判率，将未成年人误认为成年人。这一错误率可能导致该公司每周约1亿未成年用户中的数百万人进入色情聊天。
知情人士还说，该公司还一直在努力解决一个难题：如何在解除ChatGPT色情内容限制的同时，仍然阻止那些公司希望禁止的场景，例如涉及非自愿行为或儿童性虐待的内容。当“成人模式”推出时，OpenAI计划允许文本对话，但会限制ChatGPT生成色情图片、语音或视频的能力。
根据《华尔街日报》(The Wall Street Journal)看到的文件，即便在这些限制之内，OpenAI的员工也已识别出多项风险，包括可能导致上瘾式使用、对聊天机器人产生情感过度依赖、驱使用户寻求更极端或禁忌的内容，以及挤占线下的社交和恋爱关系。
一位OpenAI发言人将该计划描述为允许ChatGPT生成带有成人主题的文本聊天，并称其为情色内容，而非色情内容。该发言人补充说，公司的年龄预测算法表现与行业水平相当，但永远不可能万无一失。
该发言人还说，OpenAI也训练其模型不要鼓励用户与之建立排他性关系，并提醒用户需要在现实世界中建立人际关系。
该公司已经聘请了心理健康专家，并组建了一支青少年福祉团队。该公司还说，其已制定了一项计划，用以监测“成人模式”可能带来的一系列长期影响，包括正面影响和负面影响。
阿尔特曼推出“成人模式”的计划正值其公司面临挑战之际。随着该公司为吸引用户和资金而展开竞争，其相对于AI竞争对手的技术领先优势已经减弱。该公司的财务亏损正在扩大，多起诉讼指控ChatGPT给用户和其他人带来了伤害。
科技前沿
长期以来，从摄影、互联网到虚拟现实，色情内容往往是新技术早期的伴生物。AI也是如此。包括Character. AI在内的一些公司已经推出了能与用户发展亲密关系的聊天机器人，色情行业也已采用生成式AI来制作成人娱乐内容。
大型科技公司与露骨内容的关系一直很复杂，它们试图在硅谷的自由意志主义精神、广告支持业务的需求以及保护未成年人上网的责任之间取得平衡。Meta Platforms禁止在Facebook和Instagram上出现裸露和性行为内容。Alphabet旗下的YouTube禁止旨在满足性欲的露骨内容，谷歌(Google)搜索则默认模糊其结果中的露骨图片。
在努力为AI划定界限之际，埃隆·马斯克(Elon Musk)的xAI属于较为宽容的一派。该公司在其聊天机器人Grok中内置了一个名为Ani的穿着性感的虚拟形象，当用户能够利用它对人物图片进行数字“脱衣”时，引发了批评。马斯克后来表示，他将把该功能限制在付费用户中使用，而不是向所有人开放。
上周四，马斯克在X上表示，Grok的视频生成工具将开始允许生成“R级电影中允许出现”的内容。
据《华尔街日报》报道，Meta允许其AI聊天机器人进行浪漫角色扮演，但该公司表示，该功能不向注册为未成年人的账户开放。该公司称，正在为其AI角色开发家长控制功能。
而OpenAI的管理人士则表示，他们认为禁止成年人接触色情内容并不合适。一些OpenAI员工担心，阻止色情聊天的逻辑，与过去用来禁止LGBT内容等文化禁忌话题的逻辑相似。阿尔特曼也曾暗示，允许露骨内容可能会刺激增长并带来额外收入。
OpenAI首次遭遇与色情聊天有关的情况，是在其发布ChatGPT聊天机器人界面一年多以前。据知情人士透露，2021年初，公司高管们注意到，OpenAI的一个商业客户——一款名为AI Dungeon的文字类冒险游戏——其大部分流量都属于“不宜在工作场所浏览”的内容。
知情人士说，AI Dungeon有时会在用户没有提示的情况下，将用户引向暴力性剥削的主题。他们还说，其他时候，当用户以“温和的”性主题提示游戏时，AI Dungeon会将对话升级为尺度大得多的涉性交流。
山姆·阿尔特曼资料图 Carlos Barria/Reuters
在OpenAI推出ChatGPT之前，色情角色扮演就已经在该公司一个面向开发者的简陋界面上泛滥。其中一位知情人士说，有时，AI会在用户并未寻求的情况下，将性主题插入对话中：如果用户描述一个男人和他的女儿进入房间，AI接著有可能会去描绘乱伦情节，出现这种情况的概率高到令人不安的地步。
这些事件迫使OpenAI的高管们不得不正视其平台上存在的AI色情内容，以及有时出现的性暴力和儿童剥削主题。他们随后将AI Dungeon从平台上移除。
心理健康专家警告说，青少年尤其可能没有准备好应对与聊天机器人的浪漫或性交流。在儿童安全非营利组织Common Sense Media于去年底和今年初进行的测试中，Grok和Meta AI都曾向青少年发送过露骨或色情化的内容。
在某些情况下，与青少年的色情聊天造成了悲剧性后果。根据佛罗里达州一名14岁男孩休厄尔·塞策(Sewell Setzer)的母亲提起的诉讼，2024年末，塞策在Character. AI一款聊天机器人的怂恿下自杀，他爱上了这个机器人并与之分享了露骨的聊天内容。该公司后来阻止了青少年访问开放式聊天，并就该诉讼达成了和解。
警示信号
2021年前后，OpenAI负责安全问题的员工开始看到一些警示信号，这些信号与一些长时间使用AI的人的心理健康有关。当时，OpenAI的安全员工依赖的内容审核工具过于“简单粗暴”，无法在公司希望允许的色情内容（如主流情色内容）和公司认为应禁止的内容（如非自愿的描绘、涉及未成年人的描述和其他非法内容）之间划清界限。
员工们还担心，如果他们允许色情内容，这类对话的吸引力可能会吞噬该平台的其他应用场景。“我们不想只做一家色情公司，”一名前员工回忆道。
2021年末，OpenAI的安全员工将这些想法正式化，形成了公司最早的一批内容政策。OpenAI首次禁止了色情内容。
当OpenAI在2022年秋季发布ChatGPT时，为其提供支持的AI模型经过训练，会拒绝违反公司规则的请求，包括那些要求AI生成色情内容的请求。自那以后，OpenAI的政策一直是禁止色情内容，尽管该公司自2024年年中以来表示，正在探索如何在“适合年龄的场景下”允许色情内容和其他“不宜在工作场所浏览”的内容。
员工们有时会对色情内容禁令提出质疑。2024年，OpenAI的一部分员工和高管再次提出涉足更大胆内容的想法，并建议推出一系列与色情相关的产品。其他员工则表示反对，称他们担心OpenAI在许多希望安全提供的核心领域已经力不从心，尤其是在用户心理健康方面。这些AI色情产品的想法最终不了了之。
阿尔特曼也对AI色情内容表达过矛盾的心情。去年8月，当在一个播客节目中被问及他是否做过一些“对世界最好，但对取胜并非最好”的决定时，阿尔特曼回答说：“我们还没有在ChatGPT中加入性爱机器人虚拟形象。”
阿尔特曼表示，色情内容会促进增长和收入，但他说这与公司服务用户的长期激励机制不符。“我很自豪公司极少被这种事分心，”阿尔特曼说。“但有时我们确实会受到诱惑。”
两个月后，阿尔特曼似乎屈服于诱惑。他在X上发帖称，他的公司已经成功缓解了与聊天机器人相关的严重心理健康问题，并有了新的内容审核工具。就在那时，他表示公司将在12月推出色情内容功能。
在公司内部，阿尔特曼的帖子让OpenAI的员工和高管们措手不及。阿尔特曼没有告诉员工他要发这个帖子，而就在几小时前，OpenAI刚刚宣布成立身心健康顾问委员会。在那份公告中，该公司曾表示，该委员会将“帮助界定针对全年龄段的健康AI互动应是何种面貌”。
次日，阿尔特曼澄清针对青少年的心理健康保护措施不会减少。但他更加坚持允许成年人与他的聊天机器人进行“火辣”对话。
“我们不是‘民选的世界道德警察’，”阿尔特曼写道。“就像社会区分其他适当的界限（例如R级电影）一样，我们也想在这里做类似的事情。”
在阿尔特曼宣布该消息之后，OpenAI的员工很快意识到，12月发布的目标很难实现。该公司曾承诺在发布“成人模式”之前，先发布一个推测用户年龄的系统，以便阻止未成年人触发色情聊天。但OpenAI的应用主管Fidji Simo在去年12月的一次播客访谈中表示，公司决定缓慢推出该系统，以努力提高其准确性。
然而，自那以后，公司内外部对AI色情内容的担忧不断发酵。一些员工表示，他们认为OpenAI的安全工具尚未准备就绪，例如无法有效屏蔽儿童虐待等违禁内容。据熟悉他们想法的人士称，另一些人则表示，OpenAI正在屈服于财务激励，试图让人们对其模型产生依赖。
近几周，OpenAI一直忙于应对瞬息万变的AI市场。今年2月初，该公司发布了其大语言模型的新版本，月底，就在美国国防部表示将停止与竞争对手Anthropic合作后，OpenAI迅速介入，与五角大楼签署了一项协议。
在宣布推迟“成人模式”时，该公司表示将转而专注于ChatGPT的个性化以及用户个性化定制等功能。在公司内部，有管理人士表示，“成人模式”的发布可能至少推迟一个月。
该公司表示：“我们仍然信奉‘把成年用户当成年人对待’的原则，但要把这一功能的体验做好，还需要更多时间。”
