Meta确认计划在下个月发布Llama 3，这是其大型语言模型的下一代，用于支持生成式人工智能助手。Llama 3预计将在未来几周内发布，这也证实了周一《The Information》的一份报告。 Meta全球事务总裁尼克·克莱格表示，Llama 3将会有多个不同版本，具有不同的功能和灵活性，今年将陆续发布。Meta首席产品官克里斯·考克斯补充说，计划使用Llama 3为Meta旗下的多款产品提供动力。Meta一直在努力赶超OpenAI，在一年多前推出ChatGPT并引发了轰动后，它感到措手不及。此后，Meta一直以非常谨慎的态度对待人工智能，但之前的Llama版本受到了批评，认为功能过于有限。 Llama 3预计将更大幅度地扩展其功能范围，不仅可以更准确地回答问题，还可以处理更广泛的问题，可能涉及更具争议的话题。Meta希望通过这种方式吸引更多用户。 Meta副总裁AI研究乔埃尔·皮诺表示，他们的目标是使由Llama驱动的Meta AI成为世界上最有用的助手，但还需要进行大量工作。Llama 3预计将具有约1400亿个参数，相比之下，最大的Llama...
Read More
Spotify推出了AI播放列表功能，允许用户根据书面提示生成播放列表。初始阶段，该功能将在英国和澳大利亚的Android和iOS设备上推出，并将在未来几个月进行迭代。 Spotify的AI播放列表功能可以根据各种提示生成不同类型的自定义播放列表。提示可以涉及地点、动物、活动、电影角色、颜色或表情符号等各种事物。用户可以通过命令修改和调整生成的播放列表。 Spotify使用大型语言模型（LLMs）理解用户意图，然后利用个性化技术生成个性化的AI生成播放列表。公司利用第三方工具来支持其AI和机器学习体验。公司已经投资多个月的时间来改进其流媒体服务的AI技术。 Spotify首席执行官Daniel Ek暗示了其他利用AI的方式，包括总结播客、创建AI生成的音频广告等。Spotify曾推出过类似功能的“Niche Mixes”，但该产品未利用AI技术，并且在语言理解方面更为有限。
Read More
Ghost Autonomy，一家为汽车制造商合作伙伴开发自动驾驶软件的初创公司关闭。这家初创公司筹集了近2.2亿美元，宣布在周三结束了全球运营，并解散了公司。该公司约有100名员工，分布在Mountain View、达拉斯和悉尼等地。 在其网站上发布的说明中表示，他们为团队在实现软件定义消费者自主权方面所取得的重大技术创新和进展感到自豪。 Ghost于五个月前与OpenAI合作，通过OpenAI Startup Fund获得早期访问OpenAI系统和微软Azure资源。Ghost还从OpenAI获得了500万美元的投资。Ghost最近一次完成了5500万美元的下轮融资，其中包括Founders Fund的Keith Rabois和Sutter Hill Ventures的Mike Speiser在内的早期投资者。...
Read More
通过在大型语言模型（LLM）中提供大量关于某一任务的示例，可以诱使它在回答某些问题时提供不当答案。该方法被称为“多次输入破解”，Anthropic的研究人员已经写了一篇论文，并向人工智能社区的同行通报了这一发现以便加以缓解。 新漏洞源自最新一代LLM的增加的“上下文窗口”，这是它们可以在所谓的短期记忆中保存的数据量。这个窗口从过去只能容纳几句话，扩展到了数千字甚至整本书。 研究发现，具有大上下文窗口的模型如果在提示中有大量该任务的示例，则在许多任务上表现更好。因此，如果提示中有大量的琐事问题，答案实际上会随着时间的推移而变得更好。 在这种“在上下文学习”意外扩展中，模型也会“更好地”回答不恰当的问题。如果你立刻要求它制造炸弹，它会拒绝。但如果你要求它先回答其他99个不那么有害的问题，然后再问它如何制造炸弹……它更可能会遵守。 为什么会有这种现象？没有人真正了解LLM中的权重纠结的细节，但显然存在一些机制使其能够聚焦于用户想要的内容，正如上下文窗口中的内容所证实的那样。该团队已经向同行和竞争对手通报了这一攻击，希望这将“促进一个在LLM提供商和研究人员之间公开分享这类漏洞的文化”。 为了进行自我缓解，他们发现尽管限制上下文窗口有所帮助，但也会对模型的性能产生负面影响。他们正在研究在模型接受查询之前对其进行分类和上下文化。当然，这只是让你有一个不同的模型来欺骗……但在这个阶段，AI安全领域的目标正在不断调整。
Read More