頭條
Meta 的開放式 AI 硬件愿景
https://engineering.fb.com/2024/10/15/data-infrastructure/metas-open-ai-hardware-vision/
Meta 在 OCP 全球峰會上展示了開放式 AI 硬件設計，包括 Catalina 機架和擴展的 Grand Teton 平臺。訓練 Llama 3.1 405B 模型需要 16,000 個 NVIDIA H100 GPU，這凸顯了 Meta 的可擴展基礎設施。開放式 AI 硬件系統是繼續(xù)推進 AI 能力所必需的。
紐約時報警告人工智能搜索引擎 Perplexity 停止使用其內容
紐約時報已向人工智能初創(chuàng)公司 Perplexity 發(fā)出停止令，指控其未經許可使用其內容進行人工智能搜索操作。Perplexity 聲稱它不會抓取內容進行訓練，而是索引網頁以顯示事實內容。該公司正在與出版商接洽，并旨在通過與《紐約時報》和其他媒體合作來解決這一問題。
Decagon 籌集 6500 萬美元 B 輪融資
https://decagon.ai/blog/series-b
Decagon 已籌集 6500 萬美元 B 輪融資，以增強其 AI 客戶支持代理，這些代理已被 Duolingo 和 Eventbrite 等公司用于有效管理客戶互動。其 AI 代理可自動執(zhí)行重復性任務，使客戶支持團隊能夠專注于更高價值的角色。這筆資金將增強 Decagon 的工程團隊，并將其 AI 解決方案擴展到新的市場和垂直領域。
研究
線性化 LLM
https://hazyresearch.stanford.edu/blog/2024-10-14-lolcats-p2
Hazy research 的另一篇精彩文章探討了如何在不犧牲太多性能的情況下線性化現有語言模型
具有樣式一致性的場景文本編輯
https://arxiv.org/abs/2410.10133v1
TextCtrl 是一種新的基于擴散的方法，可通過保持內容準確性和樣式保留來改進場景文本編輯。
具有增強 3D 視覺運動技能的人形機器人
https://arxiv.org/abs/2410.10803v1
iDP3 是一種改進的 3D 視覺運動策略，允許人形機器人在各種現實環(huán)境中自主操作。
工程
Tabled
https://github.com/VikParuchuri/tabled
用于檢測和提取 PDF 表格的先進系統。
增強的圖像生成效率
https://hanlab.mit.edu/projects/hart
HART 是一種新的視覺生成模型，可創(chuàng)建高質量的 1024x1024 圖像，挑戰(zhàn)擴散模型的能力。它通過使用結合離散和連續(xù)標記的混合標記器來改進圖像重建并降低訓練成本。
具有增強注意力機制的新型視覺轉換器
https://github.com/maclong01/DeBiFormer
可變形雙層路由注意力 (DBRA) 模塊是為了改進視覺轉換器中的注意力機制而開發(fā)的?；?DBRA 構建的 DeBiFormer 優(yōu)化了鍵值對的選擇，并提高了注意力圖中查詢的可解釋性。
雜七雜八
全新高質量 AI 視頻生成器 Pyramid Flow 發(fā)布
Pyramid Flow 是一款全新的開源 AI 視頻生成器，它使用金字塔流匹配技術創(chuàng)建高質量視頻，從而優(yōu)化計算效率。它與 Runway Gen-3 Alpha 等專有模型競爭，并在 MIT 許可下提供商業(yè)使用，但它要求用戶托管自己的版本以實現完整的應用程序集成。盡管存在一些限制，但它的發(fā)布凸顯了可訪問 AI 視頻解決方案的趨勢。
這家三人機器人初創(chuàng)公司正與設計師 Yves Béhar 合作，將人形機器人帶回家
Kind Humanoid 的三人團隊正在開發(fā)一款名為 Mona 的奇特人形機器人。它專為家庭使用而設計，而不是工業(yè)環(huán)境。該團隊計劃明年對最初的十幾個原型進行現場測試。Kind 的方法注重創(chuàng)新和效率，而不是籌款，與其他以工業(yè)市場為目標的人工智能驅動機器人制造商形成了鮮明對比。
INTELLECT–1：啟動首個 10B 參數模型的去中心化訓練
https://www.primeintellect.ai/blog/intellect-1
INTELLECT-1 是首個去中心化的 100 億參數模型。它充分利用了全球對開源 AGI 開發(fā)的貢獻。OpenDiLoCo 擴展已實現，可用于跨分布式設備訓練大型模型，并在帶寬效率和容錯性方面取得了新的進步。新的 Prime 框架進一步優(yōu)化了去中心化訓練，將 INTELLECT-1 的 100 億參數訓練運行的計算利用率提高到 98%。
特斯拉首次展示自動駕駛“機器人出租車”
https://www.nytimes.com/2024/10/10/business/tesla-robotaxi-elon-musk.html
特斯拉推出了一款自動駕駛出租車原型 Robotaxi，旨在實現完全自動駕駛，盡管專家對這種技術的近期可行性持懷疑態(tài)度。
字節(jié)跳動解雇數百名 TikTok 員工，轉向使用人工智能內容審核
TikTok 正在轉向使用人工智能進行內容審核，導致馬來西亞裁員，影響不到 500 名員工。
微軟人工智能副總裁 Bubeck 將加入 OpenAI
https://finance.yahoo.com/news/microsoft-artificial-intelligence-vp-bubeck-193734013.html
專注于小型語言模型的微軟人工智能副總裁 Sebastien Bubeck 將離職加入 OpenAI。
