OpenAI报告:中国团体利用其AI技术进行秘密行动

【纬度新闻网】据OpenAI周四(6月5日)发布的报告,这家ChatGPT开发商发现,越来越多的中国团体利用其人工智能技术开展秘密行动。OpenAI表示,尽管这些团体的行动范围和策略有所扩大,但所侦测到的操作规模普遍较小,目标受众有限。
自2022年底ChatGPT横空出世以来,生成式AI技术因其能快速生成类人文本、图像和音频而引发广泛关注,人们对其潜在后果表示担忧。OpenAI定期发布关于其平台上恶意活动的报告,例如创建和调试恶意软件,或为网站和社交媒体平台生成虚假内容。
OpenAI在报告中列举了几个案例。首先,该公司封禁了一些ChatGPT账户,这些账户生成了涉及中国政治和地缘政治话题的社交媒体帖子,包括批评一款以台湾为中心的视频游戏、针对一名巴基斯坦活动人士的虚假指控,以及有关美国国际开发署(USAID)关闭的内容。部分内容还批评了美国总统唐纳德·特朗普的全面关税政策,例如在X平台上发布帖子称:“关税让进口商品贵得离谱,而政府却在海外援助上挥霍无度。谁来买单?”
其次,与中国相关的威胁行为者利用AI技术支持其网络行动的多个阶段,包括开源研究、脚本修改、系统配置故障排除,以及开发用于密码暴力破解和社交媒体自动化的工具。
第三个案例涉及一个源自中国的舆论影响行动,该行动生成支持美国政治话语中两极化话题的社交媒体内容,包括文本和AI生成的个人资料图片,内容同时支持争议话题的双方立场。
OpenAI近日宣布完成一轮40亿美元的融资,公司估值达到3000亿美元,巩固了其作为全球最具价值私营公司之一的地位。