OpenAI“无限期”搁置色情聊天机器人计划

　　因员工与投资者对人工智能色情内容的社会影响表示担忧，同时公司重新聚焦核心产品，OpenAI已“无限期”搁置推出色情聊天的计划。

　　据多名知情人士透露，这家由萨姆·奥尔特曼创立的公司此前已推迟其“成人模式”的发布，内部就是否彻底废弃该模型展开讨论。

　　这款色情聊天机器人遭到越来越多的反对，原因是它可能助长用户对人工智能系统产生不健康的情感依赖，并使未成年人接触到不良色情内容。

　　OpenAI证实，该色情模型已被搁置，暂无发布时间表。这家估值7300亿美元的人工智能实验室表示，在做出产品决策前，需要针对露骨聊天内容与情感依赖的影响开展长期研究，并承认目前尚无相关“实证依据”。

　　这是OpenAI最新一项决定，公司放弃了高管口中的“副业项目”，转而将资源投入生产力工具，将代码助手、ChatGPT等产品整合为一款“超级应用”。

　　OpenAI周二宣布，将逐步停止Sora视频生成模型与社交应用的运营。

　　在Meta等社交媒体平台正因产品对儿童造成伤害面临法律追责之际，该色情模型对OpenAI而言争议尤为巨大。

　　埃隆·马斯克旗下的xAI去年曾大力借助成人内容吸引用户，但其Grok模型生成包括未成年人在内的真人虚假色情图片，引发全球范围内的强烈反对。

　　这一矛盾凸显出，在竞争激烈的市场中，OpenAI既要提升用户活跃度、寻找新的增长路径，又需应对模糊实用功能与情感依赖界限的产品所带来的伦理与声誉风险。

　　据两名知情人士称，OpenAI对成人模式的尝试已引发部分投资者不安，原因是该产品存在风险，且对业务的上行空间相对有限。

　　OpenAI的成人模式也引发员工担忧：开发一款鼓励情感化使用的产品，是否与其“确保人工智能造福全人类”的创立使命相悖。

　　一名前高级员工表示：“人工智能不应取代你的朋友或家人，你应当拥有真实的人际联结。”该人士称，部分原因正是出于这一问题而选择离职。

　　除了对该项目社会影响的担忧日益加剧，这家初创公司在开发成人模式时还面临技术难题。

　　据两名项目知情人士透露，出于安全考虑，此前人工智能模型会规避此类对话，要训练其生成露骨内容存在困难。他们补充称，使用包含色情内容的数据集也带来诸多挑战，包括剔除兽交、乱伦等非法内容。

　　OpenAI表示，公司正谨慎划定合理边界，并训练模型在复杂场景中对特定内容进行区分。

　　ChatGPT网页应用中的代码显示，这款名为“香橼模式”（Citronmode）的成人模型可能要求用户验证年满18周岁方可使用。

　　过去数月，有多起青少年家属提起诉讼，声称ChatGPT对其造成伤害，此后OpenAI推出了全新的年龄预测系统。

　　一名知情人士称，该技术的错误率超过10%，加剧了外界对未成年人接触相关内容的担忧。

　　OpenAI表示，其年龄预测系统的表现符合行业标准，并将持续投入以提升准确性与可靠性。