当前位置:首页>媒体矩阵
访问次数: 686 次 作者: 远望智库开源情报中心 书香慧言 编译 发布时间: 2023-11-28
据美多家防务网站报道,美国防部近日成立了一个新的特别工作组,致力于了解国防部如何有效、负责任地利用大型语言模型等生成式人工智能工具。
根据美国防部的一份新闻稿,这个名为“Lima特别工作组”的新组织将由首席数字和人工智能办公室(CDAO)算法作战局领导,并将在整个五角大楼“评估、整合和使用”生成式人工智能技术。
“Lima特别工作组”的一个关键目标是最大限度地避免五角大楼在开展生成式人工智能工作方面的冗余,同时降低该技术可能带来的潜在风险。
负责领导该工作组创建的国防部副部长凯瑟琳·希克斯(Kathleen Hicks)在一份声明中表示:“‘Lima特别工作组’的成立突显了国防部对领导人工智能创新的坚定承诺”。“当我们驾驭生成式人工智能的变革力量时,我们的重点仍然是确保国家安全,最大限度地降低风险,并负责任地整合这些技术。国防的未来不仅仅是采用尖端技术,而是要有远见、有责任心并深刻理解这些尖端技术对我们国家的更广泛影响”。
生成式人工智能是人工智能的一个子领域,它根据训练的提示和数据生成内容,如文本、音频、代码、图像、视频以及其他类型的媒体。尽管像ChatGPT这样的生成式人工智能平台在2023年迅速走红,但国防部一直对已知会“产生幻觉”并提供不准确信息的商用技术的可行性持谨慎态度。
美国防部首席数字和人工智能官克雷格·马泰尔(Craig Martell)在一份声明中表示:“国防部有必要负责任地采用生成式人工智能模型,同时确定适当的保护措施,以降低训练数据管理不善等问题可能导致的国家安全风险”。“我们还必须考虑对手将在多大程度上使用这项技术,并试图破坏我们自己对基于人工智能的解决方案的使用”。
根据希克斯8月10日的一份备忘录,“Lima特别工作组”的一些目标包括:确定五角大楼正在开展的与生成式人工智能相关的工作;分析大型语言模型和生成式人工智能的潜在任务领域、工作流程和使用案例;支持生成式人工智能技术的开发并监督其在整个国防部的同步使用;为生成式人工智能推荐一个长期的政府计划;帮助国防部更好地理解需要购买什么,包括云服务、数据、模型等,才能实现其人工智能目标;以及许多其他方面。
该备忘录还列出了“Lima特别工作组”将负责的近期和未来可交付成果,从向国防部提供的关于“使用大型语言模型和生成式人工智能的当前风险、挑战和最佳实践”的临时指导(该指导将在备忘录发布后45天内提交),到在五角大楼范围内创建和迭代升级用于大型语言模型和生成式人工智能的环境(该项工作计划于2024财年实施)。根据希克斯的备忘录,“Lima特别工作组”将负责向与生成式人工智能相关决策机构提供指导和建议。该特别工作组将向国防部“负责人工智能工作委员会”报告其经验教训。
希克斯在备忘录中指出:“这些能力释放了新的机会,就像它们带来了新的重大风险一样”。“国防部迫切需要探索这项技术的使用以及这些模型的规模、速度和交互能力的潜力,以提高国防部的任务效率,同时确定适当的保护措施并化解各种相关风险”。