騰訊研究院AI速遞 20240710

生成式AI

一、 超越Transformer和Mamba的新架構？斯坦福等5年磨一劍

1. TTT架構用機器學(xué)習模型取代RNN隱藏狀態(tài)，優(yōu)化了語(yǔ)言模型方法；

2. TTT層替代自注意力層，增強了處理長(cháng)上下文的能力，并降低了計算復雜度；

3. 實(shí)驗結果顯示TTT在多種模型規模上表現優(yōu)于或匹敵傳統的Transformer和Mamba。

021yin.com/s/QSw9PKB_HhSxeO7agnzBgQ

二、 OpenAI CEO又創(chuàng )辦了一家AI健康公司，Thrive AI Health

1. Sam Altman 宣布成立 Thrive AI Health，旨在通過(guò)手機App形式提供個(gè)性化AI健康教練；

2. 新公司專(zhuān)注于使用AI改善慢性疾病管理，通過(guò)日常行為的精確建議來(lái)優(yōu)化健康習慣；

3. Thrive AI Health融資1500萬(wàn)美元，吉印通學(xué)術(shù)機構和醫療中心進(jìn)行前沿健康研究。

021yin.com/s/uCFnvW_nBo-4sSn93tTFaA

三、 Runway官方發(fā)布Gen-3保姆級教程，超詳細文本提示詞技巧

1. 提示詞需詳細描述場(chǎng)景、動(dòng)作和視覺(jué)元素，將其轉換為向量指導生成過(guò)程；

2. 文生視頻模型需考慮時(shí)間序列和連貫性，確保生成視頻在視覺(jué)和動(dòng)作邏輯上一致；

3. Gen-3提示結構分模塊處理場(chǎng)景、主題和鏡頭運動(dòng)，使用精準效果、細節提示詞提升生成質(zhì)量。

021yin.com/s/NAElqsLIPVvgsmMYo0bLMg

四、 RAG微調Llama 3竟超越GPT-4！英偉達提出RankRAG框架

1. RankRAG框架由佐治亞理工學(xué)院和英偉達的華人學(xué)者開(kāi)發(fā)，整合了檢索和排名任務(wù)到單一LLM中，提高數據效率和模型性能；

2. 框架在多個(gè)通用和生物醫學(xué)基準上超越現有模型，例如超過(guò)ChatQA-1.5系列的微調模型；

3. RankRAG使用指令微調和少量排名數據提升性能，顯示出優(yōu)于傳統RAG方法的數據效率和時(shí)間效率。

021yin.com/s/87qeqDSwtitYsruH_2Jdww

五、 無(wú)人車(chē)團隊Odyssey跨界進(jìn)軍好萊塢！推出電影級視覺(jué)AI特效

1. Odyssey利用先進(jìn)的AI技術(shù)，實(shí)現了對視覺(jué)敘事元素的完全控制，提供電影級視覺(jué)特效；

2. 開(kāi)發(fā)了四個(gè)獨立的生成模型，分別負責幾何圖形、材質(zhì)、光影和運動(dòng)的細節生成，以實(shí)現完整的視頻或場(chǎng)景控制；

3. Odyssey集成到現有好萊塢和游戲產(chǎn)業(yè)工作流程，支持高級用戶(hù)定制和專(zhuān)業(yè)級版本控制。

021yin.com/s/LhEdwcrcy6T7FdVqa_hjQw

六、 AI 文檔搜索公司 Hebbia 宣布完成 1.3 億美元融資！a16z 領(lǐng)投

1. Hebbia完成了1.3億美元的融資輪，由a16z領(lǐng)投，與Index Ventures、Google Ventures及Peter Thiel參投；

2. Hebbia的軟件能分析多種數字化文檔和數據源，提供復雜查詢(xún)處理，結果顯示細致，以增強驗證答案的可靠性；

3. Hebbia將使用新資金進(jìn)行研究和招聘軟件工程師，其客戶(hù)包括美國空軍和多個(gè)行業(yè)領(lǐng)域的公司。

021yin.com/s/rvm-3qRL9t3bAll4GdWi7Q

七、 開(kāi)源3D醫學(xué)大模型SAT，497類(lèi)器官，超越72個(gè)nnU-Nets

1. 上交大SAT模型通過(guò)文本提示實(shí)現對497種人體器官和病灶的3D圖像分割，將解剖學(xué)知識整合至文本編碼器中；

2. 集成了大規模的多模態(tài)醫學(xué)知識圖譜和3D醫學(xué)圖像數據集SAT-DS，包含22K+圖像和302K+分割標注；

3. 在多個(gè)實(shí)驗中，SAT展示了優(yōu)于或等同于72個(gè)專(zhuān)用nnU-Nets模型的性能，并具有更強的泛化能力和較小的模型尺寸。

021yin.com/s/i5ShQZmEaJIDSHr46s-9Fg

八、 SelfGNN圖神經(jīng)網(wǎng)絡(luò )加持：突破傳統推薦系統局限！防過(guò)載

1. SelfGNN結合圖神經(jīng)網(wǎng)絡(luò )和自增強學(xué)習，通過(guò)建模用戶(hù)在不同時(shí)間尺度的行為來(lái)捕捉協(xié)同關(guān)系和動(dòng)態(tài)興趣變化；

2. 框架采用層次圖卷積網(wǎng)絡(luò )分析短期行為，結合GRU和自注意力機制進(jìn)行長(cháng)期序列建模，以增強推薦準確性和數據魯棒性；

3. 自監督去噪功能通過(guò)比較長(cháng)短期行為模式，有效降低用戶(hù)行為數據中的噪聲和誤操作的影響。

021yin.com/s/j0ARLIk1lylp4UO_-6tKCw

前沿科技

九、 希臘與德國初創(chuàng )OroraTech合作：構建全球首個(gè)國家衛星野火監測系統

1. 希臘與德國初創(chuàng )公司OroraTech合作建立全球首個(gè)國家衛星野火監測系統，包括四顆熱成像衛星和地面傳感器網(wǎng)絡(luò )；

2. 系統將利用人工智能算法分析從衛星和地面傳感器獲得的數據，自動(dòng)檢測和預測野火蔓延路徑；

3. OroraTech將與希臘頂尖學(xué)術(shù)機構和公司合作開(kāi)發(fā)該系統，預計全面運行于2026年，以增強火災檢測和監測能力。

021yin.com/s/7BlaOv6cv-CQYGBgqe0B8w

報告觀(guān)點(diǎn)

十、 Canva CEO：設計界需要更多 Adobe 替代品，AI 能夠加速創(chuàng )意的轉化

1. Canva CEO Melanie Perkins 強調AI技術(shù)在設計領(lǐng)域的應用，通過(guò)提高創(chuàng )意轉化效率，彌補Adobe等傳統工具的不足；

2. Canva推動(dòng)設計工具的民主化，簡(jiǎn)化操作界面，使非專(zhuān)業(yè)人員也能快速上手，擴大了設計工具的可訪(fǎng)問(wèn)性；

3. Canva不斷拓展企業(yè)市場(chǎng)，推出多個(gè)訂閱計劃，滿(mǎn)足大型客戶(hù)需求，強調跨平臺和移動(dòng)友好性，提高工具的適應性和便捷性。

021yin.com/s/f4ffGdWIi3FnNArnwJQbiA

??訂閱下方合集，獲取每日推送