跳到正文

多模态

文本之外的能力:视觉理解、图文混合、音视频输入输出的模型与产品进展。

113条精选相关主题图像生成AI 视频语音与音频

最新精选

第 41–60 条 · 共 113 条
10月4日周日
  1. IT之家62

    OpenAI GPT-6 Astra 破解拿破仑 1809 年密信,揭示 217 年前军事部署

    一名 AI 研究人员借助 OpenAI GPT-6 Astra 破解了拿破仑写于 1809 年的加密军事信件,这封信因密码本遗失已 217 年未被完整解读。该工作由 SentinelOne 的 AI 工程师卡特·丘奇完成,从历史文献扫描图像开始做文字识别和密码分析,整个过程约耗时 6 小时。

    推荐理由:读者可以看到 GPT-6 Astra 如何把图像识别、符号分类与密码推理串成一条流程,并了解其验证方式。

  2. 极客公园68

    Tavus 发布 Griffin 人类交互模型,真人测试识别率从 2.4% 升至 48%

    美国 AI 视频公司 Tavus 于 10 月 1 日发布 Griffin 模型,定义为全球首个「人类交互模型」(HIM)。Tavus 公布的一分钟视频通话测试中,54 名参与者有 26 人认为自己是在和真人聊天,比例接近 48%,而上一代系统在同样测试中 41 人里只骗过 1 个,比例 2.4%。

    推荐理由:通过 2.4% 到 48% 的对比和架构拆解,读者能看清端到端全双工数字人相比级联方案改变了什么。

10月3日周六
10月2日周五
  1. 爱范儿62

    和 Opus 5.5 同题交卷,MiniMax M3.1 Flash 的前端创作实测

    爱范儿用 Opus 5.5 公开案例的提示词在 MiniMax Code 中实测 MiniMax M3.1 Flash Preview,覆盖动态作品集、手绘短片、水墨动画、纽约天际线时间轴交互以及卡丁车和水下探索等游戏原型。

    推荐理由:作者用同一批公开提示词对比 MiniMax M3.1 Flash 与 Opus 5.5 的前端创作成品,可观察 Flash 级模型在动效、手绘与交互场景中的实际完成度。

10月1日周四
  1. 量子位62

    何恺明团队提出NAT-ARC:用ImageNet预训练让纯视觉方案解ARC

    何恺明团队提出NAT-ARC,一套不依赖LLM的纯视觉ARC解题方案,用ImageNet上的MAE预训练encoder后迁移到抽象格子推理。表现最好的单模型为0.6B的huge尺度,在ARC-1上取得63.4%的pass@2分数,集成后达到70.2%,逼近使用8B语言模型的专用系统The ARChitects的71.6%。

    推荐理由:论文用ImageNet预训练打通视觉路线在ARC上的scaling瓶颈,并给出注意力与可视化证据。

  2. InfoQ中文58

    火山引擎发布全新语音内容编辑模型

    火山引擎多媒体实验室发布指令驱动的语音内容编辑模型,用户用自然语言说明要改什么,模型在保留原说话人音色、韵律和上下文的前提下局部再生成语音。模型先把原音频转为离散音频 Token,与编辑指令一起输入,经 CoT 式语义规划后再生成音频 Token 并由声码器还原波形,训练使用原音频、指令、修改后语义和语音组成的成对数据。

    推荐理由:火山引擎披露语音内容编辑模型的指令驱动方案与两段口播纠错演示,可观察局部改词如何保留原音色。

9月30日周三
  1. InfoQ中文62

    openJiuwen 发布 WorkSwarm 全双工多模态能力,支持边聊边调用 Agent

    openJiuwen 发布 WorkSwarm 全双工多模态能力,让实时音视频对话与 Core Agent 后台执行并行:用户可随时插话打断播报,复杂任务在后台继续搜索、调用工具并生成文件。

    推荐理由:openJiuwen 把实时音视频对话与后台 Core Agent 执行拆成两条并行路径,读者可据此判断边聊边办事的交互如何落地。

9月29日周二
  1. Microsoft Research62

    微软研究院推出 Quine:面向生物学复杂性的 AI 研究系统

    微软研究院推出 Quine,一个面向生物学复杂性的 AI 研究系统,由生物世界模型和连接模型、科学工具、文献与实验人员的交互式 harness 组成。该系统与 Broad Institute 合作用于胰腺导管腺癌研究,预测并优先排序数千种化合物,最高排名化合物在湿实验中产生了最大的经典态向基底态转变,从缩小搜索空间到选出候选验证仅用一个周末。

    推荐理由:微软研究院公开 Quine 的生物世界模型与实验闭环,并给出胰腺癌化合物筛选的湿实验验证结果。

  2. 爱范儿78

    爱范儿实测神秘模型 Space Bunny:涂鸦生成网站,疑似 MiniMax 出品

    爱范儿实测了近期在海外 AI 圈刷屏的匿名模型 Space Bunny Alpha,它能把随手画的草图在不到 5 分钟内变成可打开的网站,也能根据草图生成可交互的 3D 网页。

    推荐理由:作者用草图转网页、3D 游戏和发动机展台等实测,呈现匿名模型 Space Bunny 的能力边界与日常主力定位。

  3. Latent Space80

    AMD 以 82 亿美元收购 World Labs,Atlas 解决稀疏重建问题

    AMD 以 82 亿美元收购 World Labs。World Labs 创始人李飞飞在博客中回顾,公司自 2024 年成立以来构建了图像、视频与空间重建的模型训练团队,并在收购 SceniX 后推进机器人仿真能力。

    推荐理由:AMD 收购 World Labs 的价格与 Atlas 在稀疏重建上的定位,可帮助读者理解空间智能赛道的整合逻辑。

9月25日周五
  1. Google DeepMind66

    Google DeepMind 发布 Gemini 3.8 Live with Live Avatar

    Google DeepMind 发布 Gemini 3.8 Live with Live Avatar,在 Gemini 3.8 Live 的原生实时对话模型上加入近实时视频生成,实现带精确唇形同步、自然表情和流畅轮次的视觉化对话。

    推荐理由:官方给出 Live Avatar 的实时视频对话能力、异步工具调用与 97 种语言同步等具体细节,可据此判断企业级多模态交互的落地形态。

9月24日周四
  1. 极客公园58

    Hyper3D 上线 Agentic Mode,把 3D 生成接入 Agent 工作流

    Hyper3D 近日上线智能交互功能 Agentic Mode,将 Hyper3D Rodin 与 LLM 多模态上下文分析整合进同一流程,可自主理解并优化输入、按任务选择建模路径,并把生成能力从创意资产拓展到带尺寸产品图纸的工业设计建模。

    推荐理由:Hyper3D 把输入理解与建模路径选择交给 Agent,读者可据此判断专业 3D 能力接入 Agent 工作流的门槛变化。

9月22日周二
9月3日周四
  1. Google DeepMind66

    Google DeepMind 发布全球天气 AI 模型 WeatherNext 3

    Google DeepMind 与 Google Research 发布 WeatherNext 3,称其为目前最先进、最准确的全球天气模型,可直接学习实时卫星观测数据,每小时生成一次预报,最高分辨率达 5 公里,整体比上一代 WeatherNext 2 清晰约 5 倍。

    推荐理由:官方给出分辨率、更新频率与降水精度提升幅度,并说明已接入 Search、Gemini、Maps 等产品。

9月2日周三
8月28日周五
  1. Google DeepMind65

    Google DeepMind 发布 Gemini Omni 1.1 Flash,强化生成视频控制能力

    Google DeepMind 发布 Gemini Omni 1.1 Flash,为开发者提供场景延展、首尾帧插值、360p 快速草稿和最高 4K 上采样等生成视频控制能力,通过 Gemini API 在 Google AI Studio 提供。

    推荐理由:官方给出场景延展、首尾帧插值与 4K 上采样等具体能力变化,可据此判断生成视频工作流的可控程度。

8月12日周三
  1. Google DeepMind71

    Google DeepMind 发布 SL2T 手语转文字模型,率先落地 Pixel 11 的 Gboard 与 Live Transcribe

    Google DeepMind 发布多语言手语转文字模型 SL2T,首次把手语 AI 带入消费产品,在 Pixel 11 的 Gboard 和 Live Transcribe 中支持美国手语(ASL)转英文听写,后续将扩展更多设备与语言。

    推荐理由:官方给出 SL2T 的训练规模、基准分数与端侧隐私方案,可据此判断手语转文字落地的可行边界。