摘要: 人工智能技术的高度拟真性是一柄双刃剑,在赋能社会发展的同时潜藏着颠覆信息真实性的风险。本文聚焦于欺骗性人工智能 (Deceptive AI) 这一前沿议题,系统性地构建了基于技术拟真性机理与风险维度的创新性分类框架,以应对日益严峻的真实性挑战。论文超越了对深度伪造、社交机器人等碎片化现象的孤立研究,在国内首次明确了“欺骗性人工智能”的概念,并深刻辨析其与“人工智能的欺骗性”的差异与关联,强调其核心在于AI模拟智能行为的技术拟真性及其诱发的认知失真效应。研究剖析了技术拟真性的概念内涵和内在机制,并归纳出生成对抗型、行为模拟型、语义操控型、认知干预型及系统污染型五种欺骗性AI技术类型,揭示其谱系化演进特征。研究构建了“技术拟真性-欺骗意图”双维度四象限分类框架,刻画了欺诈型、模拟型、功能型和诱导型AI的欺骗机制与差异化风险谱系。高拟真性AI并非简单的技术工具,而是通过深度嵌入人类认知系统,触发认知捷径、情感共鸣、信息茧房、权威性偏见等深层心理机制,诱发群体性认知失真,进而对信息生态、社会信任乃至公共安全构成系统性威胁。这不仅为理解和应对欺骗性人工智能的真实性风险提供了原创性的理论框架,更旨在警醒社会各界正视技术拟真性背后的认知风险,为未来人机共存时代的健康发展提供前瞻性思考与风险应对策略。
中图分类号: