首页 > 其他 > 微软GenAI遇阻,转向AI安全领域,力推“防幻觉利器”

微软GenAI遇阻,转向AI安全领域,力推“防幻觉利器”

2024-10-14 132

近期,微软在人工智能领域的一系列高层变动及新工具发布,引发了业界对其AI战略调整的广泛猜测。微软长期以来对自主开发生成式AI的期望似乎遭遇了挑战,转而更多地依赖于OpenAI的技术支持,这一战略变化在多个方面得到了体现。

微软GenAI遇阻,转向AI安全领域,力推“防幻觉利器”

去年以来,微软曾试图通过“蒸馏”项目减少对OpenAI的依赖,该项目利用OpenAI模型生成的数据训练自家AI模型,以期达到相似性能,从而自主定价和销售。然而,项目的推进并不如预期顺利,内部遇到的瓶颈使得微软不得不重新评估其战略方向。今年初,微软更是将负责该项目的重要研究人员调离原岗位,进一步加剧了外界对其AI战略调整的猜测。

与此同时,微软推出的新工具“校正”则试图解决生成式AI普遍存在的“幻觉”问题,即生成缺乏基础数据支持的内容。该工具通过接地检测(groundedness detection)和实时改写过程,提高AI生成内容与源材料之间的一致性,减少误导性信息的产生。这一举措不仅体现了微软在提升AI可靠性方面的努力,也暗示了其在AI技术应用上的新思考。

微软GenAI遇阻,转向AI安全领域,力推“防幻觉利器”

尽管微软在AI领域拥有深厚的积累和技术实力,但在面对生成式AI的快速发展和广泛应用时,也不得不面对诸多挑战和选择。从“蒸馏”项目的受挫到“校正”工具的推出,微软的AI战略正在经历一场深刻的变革。未来,微软将如何在保持与OpenAI合作的同时,加强自主AI技术的研发和应用,将成为业界关注的焦点。


湘ICP备19005331号-4copyright?2018-2024

guofenkong.com 版权所有

果粉控是专业苹果设备信息查询平台
提供最新的IOS系统固件下载
相关APP应用及游戏下载,绿色无毒,下载速度快。

联系邮箱:guofenkong@163.com