关闭

青桃传媒

全国

用魔法打败魔法用AI识别AI 科技人的安全新思路

青桃传媒·2025-03-17 11:55:14·阅读

用魔法打败魔法用AI识别AI。周鸿祎最近多次提到AI安全的核心命题——“用魔法打败魔法”,这一思路值得科技界深入思考。他认为,AI面临的主要隐患包括杜撰信息、易被诱导、工具属性不分善恶以及AIGC以假乱真。然而,周鸿祎强调不能因噎废食,不发展才是最大的不安全,必须依靠技术手段来精准拆解风险。

用魔法打败魔法用AI识别AI 科技人的安全新思路

360提出的核心方案是训练专用的安全大模型,实时监控普通AI模型的输出,及时拦截虚假和恶意内容。这种“AI管AI”的策略既能保障AI的创造力,又能规避失控风险。针对海量数据分析和攻击溯源难题,周鸿祎认为AI可以快速完成漏洞扫描、攻击预警和追踪溯源,将传统安全处置效率提升百倍。例如,AI可以通过模型训练主动挖掘系统漏洞,实现“以攻代守”。

周鸿祎的解法跳出了“堵不如疏”的传统思维,在技术进步与安全底线之间找到了平衡点。未来AI安全之争本质上是技术生态与风险管控的动态博弈,“用魔法对抗魔法”或许是最现实的路径。

加载中~