ChatGPT创始人吁加强监管人工智能

　　图：OpenAI行政总裁阿尔特曼16日出席美国国会听证会，探讨AI风险及监管。美联社　　综合《华尔街日报》、彭博社、美联社报道：人工智能（AI）聊天机器人ChatGPT爆红，引发全球关注。ChatGPT母公司OpenAI的行政总裁阿尔特曼（Sam Altman）16日首次出席美国国会听证会。他在会上发出警告，聊天机器人能够提供互动式虚假资讯，可能会影响明年的总统选举，并呼吁政府加强对AI技术的监管。此外，阿尔特曼还提到有关AI影响就业以及过度集中于少数企业等问题，还建议政府成立专责机构加强规范。　　当天的听证会在参议院司法委员会下属的隐私、技术和法律委员会举行，两党议员就AI的广泛影响和监管措施向阿尔特曼提问。此次听证会由美国参议员布卢门撒尔开场，他播放了由ChatGPT撰写、并通过AI声音程序朗读的发言录音。随后他本人说，对这段音频如此逼真的效果感到惊讶，尽管ChatGPT此次撰写的发言稿内容与其本人立场一致，但仍可被利用，产生可怕的后果。　　共和党参议员霍利指出，生成式AI发展规模之大“可能会招致类似原子弹的严重后果”。阿尔特曼则表示，AI将以不可预测的方式改变社会，甚至给世界带来“严重危害”，因此监管至关重要。　　阿尔特曼建议美国政府考虑实施3项计划，政府可成立监管机构，向人工智能公司发放牌照，如不符合相应安全标准，则吊销牌照；建立一套安全准则规范AI模型；要求独立专家学者对AI模型进行审核。同时，他支持设立一个国际组织为AI制定标准，并举出管制核武已有先例。　　对于AI对人类就业的影响，阿尔特曼表示，“当前的一些工作确实会被AI取代，但同时也会创造新的就业机会”，政府需与企业合作以把控该影响。　　AI可精准锁定目标选民　　目前，生成式AI技术对于选举的影响能力已逐渐浮现。美联社报道指出，该技术可以更加精准地向选民发放大量竞选电子邮件、文本或图片，甚至伪造图片或者宣传资料，事后帮助进行选情分析，再利用数据和算法来自动完成任务，如在社交媒体上精准锁定目标选民或追踪捐款人。　　另外，AI可以通过深伪（deepfake）技术，给视频中的人物“换脸”以及模仿特定人物的声音，用来混淆视听、诽谤竞选对手甚至煽动暴力，例如呼吁选民在错误的日期投票；让政治对手发表凭空捏造的争议性言论，例如承认犯罪或者表达种族主义观点；甚至可以生成假新闻，谎称某人退出选举。　　上月，美国共和党全国委员会在总统拜登宣布参选后发布了一则竞选广告，片头出现“如果我们有史以来最软弱的总统再次当选怎么办”的字样，接着出现一系列AI生成的图像，如经济崩溃让美国的店舖被封锁、士兵和装甲军车街头巡逻、纹身的罪犯和大批移民，并写道，如果拜登2024年再次当选，这就是AI对国家未来的展望。此外，特朗普上个月就封口费案前往纽约曼哈顿出庭之际，网络上流传着由AI生成的特写照片以及特朗普拒捕的照片，逼真程度让网友难以辨别。　　恐引发下次金融危机　　此外，国会成员也对AI过度集中于少数大企业手中提出担忧，科技巨擘对大众生活的影响力与日俱增。阿尔特曼对此回应说，AI技术目前掌握在少数企业手中，他相信未来会有更多竞争。　　鉴于AI有望用更少人工完成更多工作，银行和另一些金融机构已经在各种功能中使用AI。美国证券交易委员会（SEC）主席根斯勒在听证会上，对于AI的系统性风险发出警告，认为下一次金融危机可能出现企业对AI的使用上。他说，数据聚合器和AI平台可能成为未来金融系统“脆弱性”的主要组成部分。