“AI 教父”辛顿参与联署公开信：科技巨头应保证第三方评估人员工作无干预、受保护

据IT之家9月18日消息，今日晚间《商业内幕》报道，一个由多家监督组织构成的AI评估机构论坛公开发布了一封联名信，为第三方风险评估设定了基础准则。信中指出，像Anthropic和OpenAI这样的AI实验室，只有符合特定条件，才能与外部评估机构实现更高效的合作。

这封公开信获得了数十位AI领域人士的签名支持，其中包括被誉为“AI教父”的计算机科学先驱杰弗里·辛顿以及斯图尔特·罗素。

本周，网络上对AI风险的忧虑迅速加剧。Anthropic首席执行官达里奥·阿莫迪和OpenAI首席执行官萨姆·奥尔特曼此前曾承诺，向第三方评估人员开放公司内部资源，用于评估AI风险，并授予其与员工同等级别的信息访问权限。

AI评估机构论坛的公开信正是针对这一承诺的回应。“为了确保公信力，驻场第三方评估人员必须保持科学客观性、透明度和独立性，并受到充分保护，免受被评估企业的干预。”

IT之家了解到，论坛认为，第三方评估人员不仅应被允许公开透明地开展工作，还应能够直接与公司董事会及其他拥有特别监督权限的机构沟通，不受企业过滤或限制，并有权公开披露评估结果。

这些评估人员还应得到保护，避免因评估工作而遭受AI实验室的报复，同时获得与企业内部评估人员相同的系统、数据、工具和实体场所访问权限。

公开信还提出，每家AI实验室都应引入观点和专业背景各异的评估人员，以涵盖生物科学风险、AI失控风险等多种风险领域。

本周早些时候，其他科技行业领袖也加入了这场讨论。微软首席执行官萨提亚·纳德拉表示，公司欢迎让第三方评估人员直接进驻AI企业开展评估的设想。