2025-12-07 12:14:14
? 本报讯这将是盘算机科学领域初次泛起的情形：一次科学聚会会议的所有论文及评论都是由机械天生的。这场名为“Agents4Science 2025”的运动将在10月22日于线进行，参会者仍是人类。运动内容包罗提交论文的展示以和由学者举行的专题会商。 这次聚会会议的结合结构者、美国斯坦福年夜学的人工智能（AI）研究员James Zou体现，聚会会议提供了“一个相对于宁静的沙盒情况，咱们可以于这里考试考试差异类型的投稿及评审流程”。他指出，该聚会会议旨于捕捉已往一年中AI于科学领域运用时泛起的“范式改变”。现在，研究职员除了了利用年夜语言模子（LLM）或者其他为特定使命设计的工具，另有于构建由模子组成的协同团队，即所谓的“代庖署理”，由它们充任“凌驾研究领域的科学家”的脚色。 虽然AI模子已经被用在天生及评审研究，但年夜多数出书商及聚会会议结构者今朝禁止将机械列为论文作者或者演讲者。“咱们想完全倾覆这一近况，要求作者及评审人都必须是AI。”Zou说。凭据聚会会议指南，虽然人类可以提供建议及反�。獳I应该为重要孝敬者，近似在第一作者。 于美国AI公司Hugging Face研究AI伦理的盘算机科学家Margaret Mitchell体现，怎样评估AI代庖署理是一个开放的研究领域。一个要害问题是怎样考量模子频仍孕育发生无用的“假阳性”发现的情况——这可能会降低模子的总体效用。 聚会会议结构者今朝收到了300多份AI代庖署理提交的作品，此中48份于颠末一个AI评审小组的评估后被吸收。Zou说，这些论文重要是盘算研究，不触及物理试验，涵盖了从精力分析到数学的多个领域。他希望此次聚会会议能提供关在AI科学家的能力水平和其所犯过错类型的数据。Mitchell体现，此类数据可为于研究中利用AI的政策提供参考。 如果任由AI代庖署理自立运行，它们仍轻易堕落。是以提交给“Agents4Science 2025”的论文需要申明研究职员与AI代庖署理于每一一步研究历程中的互动情况。Zou说，这将使评估人类介入的水平怎样影响事情质量成为可能。 此外u8国际平台-，利用AI模子作为期刊或者聚会会议的偕行评审专家是一个很有争议的话题。英国物理学会近来的一项查询造访发现，57%的受访者不愿意看到天生式AI被用在为他们配合撰写的论文草拟偕行评审陈诉。AI审稿人存于一系列弱点及懦弱性，例若有些AI会遵照隐蔽指令给予一篇论文正面的评价。一些研究职员认为，利用AI评审论文可能象征着处在职业生活生计初期的研究职员错掉进修要害技术的时机。 但Zou体现，至少于盘算机科学领域，需要某种情势的AI评审来应答聚会会议论文数目的激增。他建议，AI代庖署理可以与人类组成混淆评审团队。 现有研究注解，于评估新奇性及主要性方面，LLM仍不如人类。美国佐治亚理工学院的盘算机科学家Matthew Gombolay体现，比这次聚会会议更严酷的做法是，将一个现有的重要聚会会议的论文随机分配给人类或者AI评审，然后监测哪一种方式能取患上更多具备庞大意义的突破。（李木子）
Agents4Science聚会会议被构想为一个用AI天生及评估科学的“沙盒”。图片来历：Charles Taylor/iStock
