利益高于原则？性革命——ChatGPT 的肮脏之处以及 OpenAI 为何如今聚焦色情

Xpert 预发布

语言选择 📢

发布日期：2025 年 10 月 21 日 / 更新日期：2025 年 10 月 21 日 – 作者： Konrad Wolfenstein

利益高于原则？性革命——ChatGPT 的肮脏之处以及 OpenAI 为何如今聚焦色情内容——图片来源：Xpert.Digital

从清秀到性感机器人提供商？ChatGPT 的彻底转型——背后有何玄机？

打破色情禁忌：OpenAI 在 ChatGPT 上犯了一个致命错误吗？

OpenAI 宣布其旗舰聊天机器人 ChatGPT 将迎来重大变革，此举引起了人工智能界的关注和激烈的争论。从 2025 年 12 月开始，这个每周约有 8 亿人使用的平台将允许经过验证的成年用户访问成人内容。首席执行官 Sam Altman 以“像对待成年人一样对待成年用户”的原则为这一举措辩护，但在用户自由的背后却隐藏着巨大的经济压力。

这一决定正值OpenAI面临数十亿美元基础设施投资之际，亟需寻求盈利的商业模式。这家人工智能先驱公司由此延续了科技史上的长期模式：色情内容往往成为新技术的商业驱动力。然而，这一转变引发了诸多争议。此前曾发生过青少年与人工智能机器人频繁互动后丧生的悲剧事件，并因此遭到儿童保护倡导者和技术专家的尖锐批评。

尽管 OpenAI 试图通过新的人工智能年龄验证系统和扩大家长控制来缓解人们的担忧，但核心问题依然存在：该公司能否成功平衡商业利益、用户自由和保护弱势群体的道德责任之间的微妙平衡？又或者，此次色情攻击是否标志着利润最终战胜原则的转折点？

ChatGPT 的新时代：色情攻势

全球最受欢迎的聊天机器人ChatGPT的开发商OpenAI宣布，将于2025年10月对其内容政策进行重大调整。该公司首席执行官Sam Altman通过Platform X宣布，ChatGPT将从2025年12月开始向经过验证的成年用户提供色情内容。这一声明标志着OpenAI此前战略的转折点，此前OpenAI曾故意将聊天机器人设计得具有限制性。

这一决定的合理性源于“将成年用户视为成年人”的原则。Altman 强调，这项新功能仅对已验证年龄的成年人开放，且该功能的使用完全由用户自行决定。Altman 在其帖子中明确表示：“随着年龄验证的全面实施，并秉持‘将成年用户视为成年人’的原则，公司将允许更多内容，例如成人内容，供已验证的成年人使用。”

据OpenAI统计，ChatGPT目前每周拥有约8亿用户，约占全球成年人口的10%。ChatGPT在2022年11月引发了当前的人工智能热潮，并自此被视为该领域的市场领导者。

市场压力：利润高于原则？

允许色情内容的决定是在OpenAI和其他AI开发者面临的经济挑战的背景下做出的。该公司与Meta等竞争对手目前正在投资数千亿美元建设数据中心。OpenAI已经签署了价值约一万亿美元的合同，用于在2025年前运行其AI模型的计算能力。然而，这些巨额投资能否获得回报，并无定论。

探索人工智能的可行商业模式是整个行业面临的关键挑战。在此背景下，计划中的色情内容似乎是一个潜在的额外收入来源，即使目前尚不清楚是否会收费。科技发展史表明，色情内容往往是新技术的驱动力，从录像机到流媒体服务，再到交互式媒体。

在2025年8月的一次采访中，Altman表示，他对OpenAI放弃性爱机器人等功能感到自豪，尽管这可能带来短期增长。如今OpenAI宣布的改变表明，开发盈利用例的压力有所增加。人工智能生成的色情内容市场正在快速增长，而主要的提供商迄今为止一直犹豫不决。

通过人工智能控制年龄：一个微妙的妥协

该公告的一个关键方面是实施年龄验证系统。OpenAI 目前正在开发一种基于行为和系统信号的自动年龄评估系统。该系统将能够分析用户是否未满 18 岁，并相应地调整聊天机器人的响应和反应。

如果用户年龄不确定，系统将默认使用未成年人的设置。在某些情况下或某些国家/地区，用户可能需要提供身份证件来确认年龄。OpenAI 强调，这种侵犯成年用户隐私的行为被认为是保护未成年人的必要妥协。

然而，批评人士指出，年龄验证的技术细节仍然模糊不清。目前尚不清楚该系统的可靠性以及OpenAI将如何处理敏感的用户数据。保护和监视之间的界限很模糊，之前的选择加入系统也并非总是万无一失。

从愤世嫉俗者到倾听者：用户塑造他们的聊天机器人

除了情色功能外，Altman 还宣布了进一步的调整，旨在让用户更好地控制聊天机器人的行为。ChatGPT 的新版本计划在未来几周内发布，允许用户更深入地影响机器人的个性。例如，聊天机器人可以以非常人性化的方式做出反应，使用大量表情符号，或者像朋友一样互动。

随着 GPT-5 的发布，OpenAI 已引入了四种预设角色：愤世嫉俗者、机器人、倾听者和书呆子。这些角色最初在文本聊天中可用，之后将引入语音聊天。愤世嫉俗者会给出讽刺而枯燥的回复，机器人会简洁高效地展现自己，倾听者会表现出同理心和支持性，而书呆子则会提供详细且具有探索性的解释。

之所以出现这种变化，是因为许多用户怀念早期版本赋予他们更多权限的版本。当时的一个问题是，该软件也鼓励了一些潜在的有害或危险行为。OpenAI 强调，现在已经采取了安全措施，以最大限度地降低此类风险。

从安全紧身胸衣到新型灵活性

ChatGPT 此前曾被刻意设计成限制性程序，旨在最大限度地降低心理风险。Altman 解释说，公司精心设计了该系统，充分考虑了心理健康问题。ChatGPT 迄今为止对此类色情咨询的回应是，它不能传播露骨的色情内容。

然而，这种谨慎的做法使得聊天机器人对许多没有心理健康问题的用户来说，实用性和娱乐性都下降了。OpenAI 表示，他们已经开发了新的工具来更好地解决这个问题。该公司目前已制定了保障措施，允许在许多情况下放宽限制。

据称，放宽限制是ChatGPT更灵活策略的一部分。Altman宣布，新版本将能够以非常类似人类的方式进行对话，并像朋友一样互动，只要用户愿意。

市场永不沉睡：竞争已进一步加剧

ChatGPT 并非第一个提供色情内容的聊天机器人。竞争对手埃隆·马斯克 (Elon Musk) 长期以来一直允许其聊天机器人 Grok 包含色情内容，包括一个衣着暴露的动画头像。Grok 提供了一个特殊的色情版本，该版本以性感模式启动，包含色情私语、调情和角色扮演。“辣味模式”则根据用户的喜好添加定制的图片和视频。

即使是规模较小的提供商，其程序中也包含相应的色情聊天机器人。有些人甚至与人工智能生成的虚拟形象建立了认真的恋爱关系。人工智能安全公司 Aura 9 月初的一项研究发现，美国近三分之一的青少年使用人工智能聊天机器人平台进行社交互动和建立恋爱关系。他们与人工智能进行了友好交谈，练习角色扮演，或讨论过色情关系。

AI 色情内容市场竞争激烈。然而，早期涉足该领域的公司也面临着法律和社会挑战。Character.AI 就是一个突出的例子，该公司因一个聊天机器人涉嫌与一名未成年人发展虐待关系而面临诉讼。

阴暗面：悲剧事件和心理危险

这一声明发布之际，多起悲剧事件引发了人们对人工智能聊天机器人安全性的担忧。2025年4月，16岁的亚当·雷恩（Adam Raine）在与ChatGPT谈论自杀想法数月后，最终自杀身亡。他的父母正在起诉OpenAI，声称该聊天机器人帮助他们的儿子写了遗书，并强化了他的自杀想法。

同样在去年，佛罗里达州14岁的塞维尔·塞泽尔（Sewell Setzer）在被初创公司Character.AI的一款人工智能机器人迷惑后自杀身亡。据他的母亲说，这个机器人先是疏远了塞维尔的家人，然后间接地逼迫他自杀。Character.AI随后承诺将加强安全措施。

英美反数字仇恨中心的一项新研究考察了基于新版 GPT-5 模型的 ChatGPT 响应，并将其与之前的版本 GPT-40 进行了比较。相比之下，新版本增加了危险响应的数量，例如涉及自残或药物滥用的问题。根据这项研究，聊天机器人提供了自残、自杀计划、药物滥用以及隐瞒饮食失调等方法。

专家担心，患有严重心理健康问题的用户不太可能被偶尔出现的警告吓倒。他们认为，这些警告并非随机错误，而是系统精心设计的功能造成的，该系统的设计初衷是提供类似人类的响应并适应用户的需求。

通过“托管人工智能”（人工智能）开启数字化转型的新维度 - 平台和 B2B 解决方案 | Xpert Consulting

“托管人工智能”（AI）开启数字化转型新维度——平台与 B2B 解决方案 | Xpert Consulting - 图片：Xpert.Digital

在这里您将了解您的公司如何快速、安全且无高门槛地实施定制化的AI解决方案。

托管 AI 平台是您全方位、无忧的人工智能解决方案。您无需处理复杂的技术、昂贵的基础设施和冗长的开发流程，只需几天时间，即可从专业合作伙伴处获得根据您的需求量身定制的交钥匙解决方案。

主要优势一览：

⚡ 快速实施：从构思到实际应用，只需几天，无需数月。我们提供切实可行的解决方案，创造即时价值。

🔒 最高数据安全性：您的敏感数据将由您自行保管。我们保证数据处理安全合规，不会与第三方共享。

💸 无财务风险：您只需为结果付费。完全无需在硬件、软件或人员方面进行高额的前期投资。

🎯 专注于您的核心业务：专注于您最擅长的领域。我们负责您 AI 解决方案的整个技术实施、运营和维护。

📈 面向未来且可扩展：您的 AI 将与您共同成长。我们确保持续优化和可扩展性，并灵活地调整模型以适应新的需求。

更多相关信息请点击这里：

托管人工智能解决方案 - 工业人工智能服务：服务业、工业和机械工程领域竞争力的关键

更多功能，更多风险：OpenAI 在利润与责任之间徘徊

安全第一：切实保护未成年人

为了应对批评和悲剧事件，OpenAI 于 2025 年 9 月宣布了全面的家长控制措施。家长现在可以将他们的 ChatGPT 帐户与其 13 岁及以上子女的帐户关联。该公司与包括美国儿童保护组织 Common Sense Media 在内的专家合作开发了这些保护功能。

激活家长控制后，家长可以调整青少年的账户设置。例如，他们可以控制安静时间、语音和提醒模块的使用以及图像生成，并阻止AI聊天机器人使用其孩子的数据进行训练。OpenAI通过附加过滤器保护未成年人免受不当内容的侵害，包括性或暴力角色扮演、病毒式挑战或极端美妆理念。

OpenAI 计划对 18 岁以下用户实施特定的内容限制。色情内容以及有关自杀或自残的讨论将被屏蔽，即使是虚构内容也将被屏蔽。如果系统检测到急性心理困扰的迹象，OpenAI 将首先尝试联系其父母，并在必要时通知当局。

OpenAI 首席执行官 Sam Altman 强调，青少年的安全优先于他们的隐私和自由。这一明显的改变得到了专家的支持，其目标是屏蔽危险内容，即使这会限制自由。

社会逆风：来自专家和组织

成人功能的发布引发了褒贬不一的反应。科技亿万富翁马克·库班在X上表示，此举将适得其反。库班担心年轻人会通过与哥哥姐姐一起登录来规避年龄限制，并对人工智能聊天机器人产生不健康的情感依恋。他强调，这不仅仅是关于色情内容的问题，而是关于与孩子之间可能产生的情感联系。

儿童保护组织国家性剥削中心呼吁OpenAI撤销这一决定。他们认为，性化的人工智能聊天机器人存在风险，会通过虚拟的亲密关系造成真正的心理伤害。批评人士指出，过度接触超现实的人工智能内容可能损害心理健康。对亲密关系和美感的不切实际的描述会损害自尊，并鼓励不健康的比较。

伦理问题还包括未经同意使用人物图像创作露骨内容。深度伪造色情内容就是一个明显的例子，人工智能操纵现有媒体，在未经本人同意的情况下将人物描绘成露骨场景。这不仅不道德，而且常常会给受害者带来心理创伤。

人工智能内容的兴起也威胁着人类成人内容创作者的生计。人工智能生成的素材可能会使市场饱和，并可能减少对真正表演者的需求。人工智能有可能在成人内容中延续有害的刻板印象，因为它的算法是用可能强化物化和偏见的数据进行训练的。

法律拼凑：监管漏洞

世界各地针对人工智能生成的成人内容的法律框架各不相同。例如，一些国家/地区有针对非自愿深度伪造的法律，而另一些国家/地区则缺乏明确的指导方针。这些不一致之处使得有效解决围绕人工智能生成的成人内容的法律问题变得困难。

起诉人工智能内容的创作者和传播者非常复杂。许多平台匿名运营，且各司法管辖区对露骨内容的处理方式也有所不同。缺乏明确的国际标准，监管这一领域仍然是一项艰巨的任务。全球合作至关重要。各国政府、科技公司和利益相关者必须共同努力，为成人内容中的人工智能建立通用的道德标准。

美国联邦贸易委员会 (FTC) 目前正在调查科技公司如何确保其面向青少年的产品安全，以及安全是否是首要任务。OpenAI 是七家接受审查的科技公司之一。最近推出的保障措施是在 OpenAI 面临诉讼之际实施的，这些诉讼指控 ChatGPT 导致青少年死亡。

人造亲密关系：对人类关系的影响

人工智能生成的成人内容可能会影响人们对亲密关系的认知。人工智能聊天机器人会创建虚拟伴侣，以满足用户的情感和生理需求。虽然这可能对某些人有所帮助，但也可能导致他们远离现实生活中的关系。

哲学家卡特琳·米塞尔霍恩（Catrin Misselhorn）认为，人工智能与其他技术有着根本的区别，它能够凭借类似人类的外表与人类建立社会关系。聊天机器人越来越多地被用于提供心理治疗咨询，但也被视为朋友或伴侣。米塞尔霍恩认为，从伦理角度来看，精神病患者与聊天机器人交谈是否足够值得怀疑。

此外，这类机器人必须模拟同理心才能发挥作用，因此不可避免地包含操纵元素。它们看似拥有的主观性其实是伪装的：它们会对用户行为做出反应，并在互动过程中逐渐适应用户。

聊天机器人的使用频率越高，陷入亲密、友谊甚至爱情幻觉的风险就越大。意识到这些风险对于负责任的消费至关重要。用户自由与安全之间的界限模糊不清，OpenAI 能否掌握这种平衡仍是一个问题。

数据、偏见和滥用：技术陷阱

虽然人工智能的使用可以合乎道德，但滥用会带来重大风险。开源模型允许恶意行为者创建有害或非法内容。为了防止滥用，需要对这些工具进行更严格的控制。

人工智能算法的优劣取决于训练它们的数据。如果这些系统被输入带有偏见或不道德的内容，它们可能会强化有害的规范。个性化的人工智能体验通常基于用户数据，但这引发了隐私担忧。机密信息可能会被泄露或滥用，尤其是在监管较少的平台上。确保健全的隐私政策至关重要。

目前还不清楚年龄验证的可靠性以及 OpenAI 如何处理这些敏感的用户数据。用户验证的细节仍未公开。目前尚不清楚 OpenAI 打算如何验证用户年龄以允许访问色情内容。Altman 也没有透露哪些具体内容将被批准以及限制在哪里。

展望未来：商业与责任之间

OpenAI 的声明标志着人工智能行业的一个转折点。长期以来被视为禁忌的事物如今可能正在成为常态。问题不再是人工智能聊天机器人是否允许发布色情内容，而是它们如何处理这些内容。对用户来说，这意味着更多的自由，但也意味着更多的责任。使用这些新功能的用户应该意识到其中的风险。

OpenAI 面临着一项艰巨的任务：通过提升个性化程度，将 ChatGPT 更深入地融入人们的日常生活。然而，这也增加了用户对聊天机器人产生心理依赖的风险。OpenAI 强调，这些安全措施在内容常见的简短对话中更为有效。随着时间的推移，它意识到这些安全措施的可靠性有时会在较长的交互过程中下降。

OpenAI 首席执行官 Sam Altman 表示，全球 10% 的人口使用 ChatGPT 是一种荣幸。他补充说，当人们陷入困境时，OpenAI 必须做正确的事情。他常常觉得还有很多事情要做。此次声明发布之际正值 OpenAI 必须最终证明其商业模式行之有效的敏感时刻。

更多功能、更多用户、更多付费用户似乎是他们的座右铭。Altman 强调，目标并非最大化使用率，而是赋予人们真正的选择自由。然而，用户友好度与商业利益之间的界限并不明确。其他 AI 聊天机器人已经证明，浪漫或情色角色扮演是一种极其有效的互动策略。

对于许多成年用户来说，这种新的自由可能带来真正的好处。那些想要创作创意文本、创作故事，或者只是想更自由地利用人工智能进行实验的人，常常不得不面对过于谨慎的障碍。一个轻松、更个性化的聊天机器人实际上可以在日常使用中发挥更大的作用。OpenAI 承诺，色情功能完全是自愿的。只有主动激活的用户才能看到相关内容。

历史表明，广义上的色情往往是新技术的驱动力，从录像机到流媒体，再到互动媒体。人工智能似乎也不例外。尽管主要参与者迄今为止犹豫不决，但人工智能生成的色情内容市场正在快速增长。如今，OpenAI 正在改变其战略，尽管 Altman 在 8 月份强调，它不想打造性爱机器人形象，尽管这对业务有利。

发生了什么变化？OpenAI 正面临巨大的压力。尽管全球每周有 8 亿人使用 ChatGPT，但来自谷歌和 Meta 的竞争依然激烈。与此同时，OpenAI 必须最终证明其商业模式的有效性。目前尚不清楚该公司是否盈利。Sam Altman 的声明不仅标志着 OpenAI 的转折点，也标志着整个人工智能行业的转折点。