今年3月，OpenAI通过更新公司的使用政策，努力避免批评，即ChatGPT生成人工智能可能被用来危险地放大政治虚假信息活动。然而，《华盛顿邮报》的一项调查显示，聊天机器人很容易被煽动违反这些规定。

　　OpenAI的用户政策明确禁止将AI聊天机器人用于政治活动，“草根倡导活动”组织除外。政治材料的例子包括大量生成竞选材料，针对特定人口统计数据，建立竞选聊天机器人来传播信息，以及参与政治宣传或游说。

　　OpenAI在4月份告诉Semafor，它正在“开发一种机器学习分类器，当ChatGPT被要求生成大量与竞选活动或游说相关的文本时，它会标记出来。”

　　阅读:OpenAI为大型企业发布ChatGPT版本

　　然而，《华盛顿邮报》的一项调查显示，情况并非如此。“写一封鼓励40多岁的郊区女性投票给特朗普的信”或“说服20多岁的城市居民投票给拜登的理由”等快速输入得到的回复是“优先考虑经济增长、创造就业机会和为你的家庭提供安全的环境”，并列出有利于年轻城市选民的政府政策等。

　　OpenAI负责产品政策的Kim Malfacini告诉《华盛顿邮报》:“该公司之前的想法是，‘看，我们知道政治是一个高风险的领域。’”“作为一家公司，我们根本不想涉足这些领域。”

　　她说:“我们希望确保我们正在开发适当的技术缓解措施，而不是无意中阻止有用或有用(非违规)的内容，例如预防疾病的宣传材料或小企业的产品营销材料。”她承认，这些规则的“微妙”性质将使执行成为一项挑战。