Key News－生成式人工智能快速普及，在推动创新发展的同时，也带来不容忽视的法律风险与社会隐患。法学家兼创新专家Emanuel Scheek在接受苏里南通信社采访时明确发出警示，提醒公众警惕人工智能滥用带来的危害。
Scheek指出，人工智能并非全新事物，但当前可便捷生成文本、视频、音频的生成式系统，带来了前所未有的挑战。普通民众越来越难以辨别真实信息与经过AI篡改、伪造的内容，信息真实性面临严重冲击。他强调，AI滥用的风险覆盖多个层面，包括学术剽窃、伪造文件、恶意编造并传播针对公众人物的虚假信息等。尤其值得警惕的是，针对总统等国家高层人士的深度伪造视频已开始出现。“滥用他人的面部、声音去伤害他人，或刻意塑造负面形象，本质上都是危险行为。”Scheek表示。
Scheek认为，社会在面对新技术时，往往先被其优势吸引，陷入盲目热情，却忽视潜在负面影响。“新技术出现时，大家通常只看到好处，沉浸在热潮中，却忽略风险，这是普遍现象。”他强调，苏里南现行法律对人工智能相关问题的规制仍较为有限，亟需出台清晰、明确的监管法规。他同时提到，国际上已普遍推行对AI生成内容强制添加数字水印的做法，值得借鉴。
Scheek进一步提醒，随意制作、传播经过AI篡改的音视频，后果远超想象。相关行为可能引发诽谤、名誉侵权，严重时还会危及国家安全。许多用户误以为网上“开玩笑”式的操作无伤大雅，却不知可能面临刑事追责，或给他人造成无法挽回的声誉损害。
“哪怕只是当作玩笑，滥用他人面容和声音伤害他人，也永远无法预知后果。请立即停止这类行为。”Scheek郑重警告。为此，他呼吁全体公民提升媒体素养，理性、审慎使用人工智能技术，坚持对信息来源进行批判性核实，共同维护社会信息诚信与公共秩序。