在2024年美國總統大選后,網絡上關于公共健康、氣候變化和移民等話題的虛假信息激增,而生成式AI的出現使這一問題更加嚴重。挪威初創公司Factiverse致力于用AI技術應對這一挑戰。該公司在2020年成立,專注開發實時文本、視頻和音頻的事實核查工具,已籌集約145萬美元的種子資金,并與挪威一家大銀行和多家媒體合作。 Factiverse的模型基于信息檢索技術,而非大型語言模型(LLM)。公司CEO兼聯合創始人瑪麗亞·阿米莉表示,模型使用高質量數據訓練,避免了生成式AI“垃圾數據”的弊端,可實時核查信息來源的可靠性。 Factiverse目前能以80%的準確率識別114種語言中的事實核查需求,超越GPT-4等大模型的表現。在2024年美國總統辯論期間,Factiverse提供了實時新聞核查服務,獲得多家媒體采用。 未來,公司計劃在2025年尋求種子輪融資,并繼續擴展客戶群,專注于全球范圍內建立信任與可信度的技術解決方案。 在加州圣卡洛斯的Robust AI總部,Carter Pro機器人展示了如何在人類和自動化設備協作的環境中安全運作。 這款輪式機器人能夠與人類直接互動。當人類對其施加力時,Carter會感知并調整,這種設計有助于提高工業機器人的部署靈活性和安全性。此外,其橙色手柄允許單手控制,為復雜操作場景提供了解決方案。 Carter的核心設計理念源于Robust AI聯合創始人Rodney Brooks的經驗,他曾創建專注于人機交互的Rethink Robotics。與以往工業機器人被隔離在安全籠中的做法不同,Carter強調人與機器的緊密協作,并且確保在共享工作空間中的安全性。 技術上,Carter摒棄了傳統的激光雷達,轉而使用攝像頭,這不僅降低了成本,還更適合倉庫環境的應用。目前,多家合作伙伴已經測試了該系統的早期版本。物流巨頭DHL成為首個公開宣布合作的大客戶,但Robust AI也明確表示致力于構建多元化客戶群,以規避單一依賴帶來的風險,并確保企業的長期發展。 量化是讓AI模型更高效的常用技術之一,但其局限性正逐漸顯現。量化可以通過減少計算機信息所需的比特數來降低計算成本。但最近的研究表明,對于用大量數據長期訓練的大模型,量化可能導致性能顯著下降。 哈佛大學等機構的研究發現,與其對大模型進行量化,不如直接訓練小模型,這可能更具成本效益。例如,Meta的Llama 3模型在量化后表現下降,部分原因可能就與訓練方式有關。 目前,AI推理成本已超過訓練成本。谷歌訓練其Gemini模型耗資約1.91億美元,但用于搜索查詢的推理成本每年可能花費60億美元。盡管如此,AI實驗室仍偏愛通過擴大訓練數據規模來提升模型能力。 研究表明,過度依賴低精度量化可能導致模型質量下降。研究人員強調,降低精度并非萬能解,模型有其容量限制,量化需謹慎權衡。未來或需采用新架構和數據精篩策略來優化小模型的性能,同時開發更穩定的低精度訓練方法。 谷歌最新實驗性AI模型“Gemini-Exp-1114”在Chatbot Arena排行榜上取得關鍵勝利,以1344分超過OpenAI的GPT-4o。然而,業界專家警告,傳統評測方法可能無法有效衡量AI的真正能力。 效果顯示,Gemini-Exp-1114在數學、創意寫作和視覺理解等關鍵領域表現出色,但在控制回復格式和長度等其他因素后,排名降至第四。這一結果揭示了評測方法存在的局限性,即模型可能通過優化表面特征獲得高分,而非實際提升推理或可靠性能力。 此外,Gemini-Exp-1114的安全問題也引發擔憂。在發布前的版本中,Gemini-Exp-1114曾生成有害內容,引發用戶強烈批評。這種表現與其高分形成鮮明對比,凸顯出企業追求更高分數的同時,可能忽視了安全性和實用性等核心問題。 專家呼吁采用新的評估框架,優先關注實際表現和安全性,而非抽象的數值成績,AI進步需要重新審視評測標準以實現真正的突破。 Reforged Labs今日宣布,其全新AI視頻廣告創作服務正式進入公開測試階段。該平臺專為移動游戲工作室設計,通過AI簡化廣告制作流程,特別適合預算和時間有限的小型團隊。 服務基于Reforged的AI創意引擎,訓練數據來自高效能移動廣告,提供廣告模板“商店”。游戲開發者可選擇模板并上傳游戲素材,如玩法視頻,由AI自動生成符合模板的廣告。此外,平臺還支持動畫、音效、語音生成,以及30多種語言的本地化,僅需24小時即可制作完成廣告。 Reforged在種子輪融資中就籌集了390萬美元,由DCM領投,Y Combinator等多家機構參與。CEO兼聯合創始人Robert Huynh表示,該服務通過學習廣告市場中高效能創意,生成模板供開發者選擇,為小型團隊節省了數周的開發時間。 Huynh強調,Reforged的研究和訓練主要針對于移動游戲廣告,助力小型獨立工作室通過高效、個性化廣告在競爭激烈的市場中脫穎而出。