新加坡——生成式人工智能(AI)应用程序的用户可能很快就会看到标签，这些标签清楚地说明了人工智能应该如何使用、它的风险以及它是如何被测试的，这是即将出台的指导方针的一部分，以使这项技术更容易理解。

　　新加坡数字发展和信息部长张志贤(Josephine Teo)将这种做法比作药物或家用电器上的安全标签，她表示，这项努力旨在规范科技公司沟通透明度和测试的方式。

　　张张贤在七月十五日至十八日于滨海湾金沙博览会议中心举行的个人资料保护周开幕致辞中表示，生成式人工智能的创造者和部署者应向用户清楚说明所使用的数据、模型的风险和局限性，以及他们的系统是如何测试的。

　　“我们会建议开发人员和部署人员向用户透明地提供有关生成式人工智能模型和应用程序如何工作的信息，”同时负责智能国家和网络安全的张志贤说。

　　在解释指南时，张志贤说:“这有点像你打开一盒非处方药。总是有一张纸告诉你应该如何使用药物，以及你可能面临的一些副作用。”

　　“使用生成式人工智能构建的人工智能模型需要这种程度的透明度。这是我们的建议。”

　　该指导方针将明确规定在部署人工智能之前应该测试的安全基准，例如散布虚假信息、有毒言论和有偏见内容的风险。生成式人工智能是指可以创造文本和图像等新内容的人工智能，它比传统人工智能更难以预测。

　　张志贤补充说:“这就像我们买家用电器时，它们的标签上写着已经经过测试，因为你不能指望知道这些电器是否可以安全使用。”

　　张张贤表示，资讯通讯媒体发展管理局(IMDA)将开始就指引与业界进行磋商，但她并没有透露指引何时会公布。

　　此外，张张玉表示，在2025年初，东盟的企业将会有一份资料匿名指引，以促进区内资料的安全转移。

　　该指南是该地区负责技术的官员今年2月举行的一次会议的成果之一，会议讨论了各国如何发展一个安全的全球数字生态系统。

　　IMDA还发布了一份关于人工智能隐私增强技术的指南，Teo女士表示，这将有助于解决对更多数据的需求，以训练人工智能，同时不损害用户的隐私。

　　她提到了该技术如何帮助保护个人身份信息，以便企业能够更安全地共享数据。

　　Teo女士表示，合成数据尤其显示出作为一种解决方案的希望，因为它在不使用实际敏感数据的情况下为人工智能模型训练创造了真实的数据。她回应了专家的担忧，即由于隐私问题等原因，缺乏训练人工智能的好数据，人工智能创新可能会滞后。

　　该指南指出，合成数据是一种解决方案，因为它的建模接近真实世界的数据，可以帮助加快创新，同时减轻对网络安全事件的担忧。

　　IMDA助理首席执行官兼个人数据保护委员会副专员Denise Wong表示，与更可预测的传统人工智能相比，在生成式人工智能中管理数据给行业带来了更多挑战。她在一场关于人工智能和数据隐私的小组讨论中发表了讲话，旁边的代表来自科技组织，包括咨询公司埃森哲(Accenture)和chatgpt开发商OpenAI。

　　Wong表示:“下一个挑战是，我们如何在生成式人工智能领域做到这一点，相关原则是什么?这是团队和我将与业界协商讨论的问题。”

　　OpenAI隐私法律主管Jessica Gan Lee表示，需要在人工智能的各个阶段(从培训、开发到部署)制定数据保护措施。

　　当被问及ChatGPT等生成式人工智能工具的风险时，她表示，关键是通过“来自世界各个角落”的不同数据集来训练人工智能模型，融合多种文化、语言和来源，同时找到减少个人信息处理的方法。

　　小组成员、埃森哲(Accenture)负责金融、风险和合规实践的地区战略和咨询主管Irene Liu表示:“很多讨论总是围绕着组织如何保护它们收集的数据展开，但我觉得，更多的焦点应该放在消费者自己对自己提供的数据负责上。”

　　她说，没有多少人意识到在网上分享信息的影响，比如在下载程序或接受cookie时，她建议:“我们能否确保对分享这些信息的消费者进行一定程度的教育，并了解他们分享这些信息的原因?”

　　本文最初发表于《海峡时报》。复制需获得许可。

　　人工智能数字发展和信息化部nJosephine Teodata security(信息通信媒体发展管理局)

　　分享本文