騰訊研究院AI速遞 20240618
生成式AI
一、 ChatGPT最新最全定價(jià)體系,免費、Plus版、團隊版,教育版等等
1. ChatGPT擴展了新功能和定價(jià)計劃,包括個(gè)人、企業(yè)及非營(yíng)利組織等多種訂閱選項;
2. 免費版提供基本功能和日使用量限制,付費版如ChatGPT Plus和企業(yè)版提供增強的數據分析和定制選項;
3. 新增記憶功能和即將推出的語(yǔ)音模式,旨在增強用戶(hù)體驗和實(shí)時(shí)互動(dòng)能力。
021yin.com/s/Gb0vtaFQlhdQcJ-wVQ-Lzg
二、 DeepMind新研究TransNAR:給模型嵌入「算法推理大腦」
1. DeepMind的TransNAR結合Transformer的自然語(yǔ)言處理和GNN的神經(jīng)算法推理器,解決推理缺陷;
2. TransNAR使用預訓練的NAR作為調制器,通過(guò)embedding和交叉注意力機制實(shí)現模態(tài)融合;
3. 實(shí)驗表明TransNAR在多種算法任務(wù)中的泛化能力超過(guò)傳統Transformer模型,尤其在分布外推理上。
021yin.com/s/YPICpkYHAC7zTLC_0M_XkQ
三、 復旦吉印通上海人工智能實(shí)驗室初步實(shí)現傳說(shuō)中的「Q*」算法?
1. MCT Self-Refine (MCTSr) 結合了大語(yǔ)言模型和蒙特卡洛樹(shù)搜索,提升了復雜數學(xué)問(wèn)題的解決能力;
2. 引入動(dòng)態(tài)剪枝和改進(jìn)置信上限公式,優(yōu)化了模型在高風(fēng)險數學(xué)任務(wù)中的決策過(guò)程;
3. MCTSr 顯著(zhù)提高了LLaMa-3 8B模型在數學(xué)競賽中的表現,與GPT-4的水平接近。
021yin.com/s/g2w7Rn7Q0mtz9xTPX-Q0Mw
四、 大模型「幻覺(jué)」有解?圖神經(jīng)網(wǎng)絡(luò )成破解核心,精準預測因果
1. Alembic開(kāi)發(fā)了一種新型AI系統,使用圖神經(jīng)網(wǎng)絡(luò )(GNN)消除了大模型在生成數據時(shí)的「幻覺(jué)」問(wèn)題;
2. 該系統通過(guò)識別因果關(guān)系而不僅僅是相關(guān)性,提高了數據分析和決策支持的準確性和可靠性;
3. Alembic的技術(shù)允許企業(yè)在時(shí)間感知的因果圖中進(jìn)行復雜的數據分析,提供確定性預測和戰略建議。
021yin.com/s/mmWi2RPXBcU2KtVUoVOH6Q
五、 OpenAI等30+學(xué)者祭出75頁(yè)提示報告,使用LLM的最全怪癖
1. 大語(yǔ)言模型(LLM)的提示技術(shù)研究顯示重復內容可以顯著(zhù)提高模型性能,而人名匿名化會(huì )降低準確性;
2. 研究發(fā)現LLM對提示中的細節非常敏感,例如示例的選擇和順序對模型效果有極大影響;
3. 通過(guò)系統研究,建立了一個(gè)包含多種提示技術(shù)的分類(lèi)體系,以及對提示工程的深入理解。
021yin.com/s/iKB9j1Nr4bDLA4rVv6jHWA
六、 3D 版 SORA 來(lái)了!全球首個(gè)原生 3D-DiT 大模型 Direct3D
1. DreamTech推出了全球首個(gè)原生3D生成大模型Direct3D,采用3D Diffusion Transformer (3D-DiT)技術(shù),專(zhuān)門(mén)解決高質(zhì)量三維內容生成難題;
2. Direct3D模型使用原生3D技術(shù)路徑,避免了傳統2D升維技術(shù)中的多頭多面、空腔、遮擋等問(wèn)題;
3. 該模型通過(guò)大規模3D訓練數據和改進(jìn)的DiT架構,預計將在多個(gè)行業(yè)中推動(dòng)3D生成技術(shù)的廣泛應用。
021yin.com/s/y2uVCgy0ywSlsF860Byt3g
七、 復旦等出品「Hallo」嘴唇、表情和姿態(tài)分層的音頻驅動(dòng)視覺(jué)合成模塊
1. Hallo項目讓Taylor Swift虛擬演唱Beyoncé的《Halo》,在GitHub上獲得超1000星;
2. 采用分層音頻驅動(dòng)視覺(jué)合成和擴散模型,實(shí)現了高保真的音視頻同步,尤其在口型、表情和頭部姿態(tài)的自然表現上表現突出;
3. 在多個(gè)數據集上表現優(yōu)異,具有良好的泛化能力和魯棒性,但存在時(shí)序一致性和效率局限,引發(fā)Deepfake風(fēng)險關(guān)注。
021yin.com/s/JMKnd56oT-WfOKBeWTyxeA
八、 日本舉國支持日版OpenAI,獲得多家硅谷風(fēng)投1億美金投資
1. Sakana AI由谷歌DeepMind校友在東京創(chuàng )立,專(zhuān)注于開(kāi)發(fā)大型語(yǔ)言模型,新一輪融資估值達到10億美元;
2. 該公司獲得硅谷多家風(fēng)投包括OpenAI投資者的支持,籌資1億美元,強化日本市場(chǎng)的AI能力;
3. Sakana AI致力于開(kāi)發(fā)具地區特色的AI模型,獲日本政府大力支持,并探索在自然規則啟發(fā)下的模型創(chuàng )新。
021yin.com/s/0hM_XhvLkqg-MhaHMeBXgA
前沿科技
九、 計算效率提升100倍以上,上交用大模型用于從頭算分子動(dòng)力學(xué)
1. 上海交通大學(xué)開(kāi)發(fā)的T-AIMD模型,基于Transformer架構,顯著(zhù)提高從頭算分子動(dòng)力學(xué)的計算效率,達到傳統方法的100倍以上;
2. T-AIMD能快速準確預測離子在各種條件下的行為,大幅縮短材料研發(fā)周期,適用于多種復雜材料系統;
3. 該模型已在電池材料等實(shí)驗中驗證其預測準確性,具有廣泛的應用潛力,改變了材料科學(xué)的研究和應用前景。
021yin.com/s/Ms5RsyRVYqLc-FU-TKmNJA
報告觀(guān)點(diǎn)
十、 吳恩達:美國加州SB-1047法案,監管不當將扼殺開(kāi)源大模型
1. SB-1047法案將嚴重限制AI開(kāi)源模型的創(chuàng )新,因為它對開(kāi)發(fā)者實(shí)行嚴格的連帶責任,即使在模型被他人修改后使用于非法目的,原開(kāi)發(fā)者也將受罰;
2. 法案要求開(kāi)發(fā)者提交使用者詳細資料并進(jìn)行年度報告,增加合規成本,同時(shí)必須能隨時(shí)停止模型運行;
3. 吳恩達和其他AI領(lǐng)域專(zhuān)家強烈反對此法案,認為應該監管AI應用而非技術(shù)本身,警告此法通過(guò)將抑制技術(shù)進(jìn)步,影響AI領(lǐng)域發(fā)展。
021yin.com/s/s7YbKl5kfydHxJvofVpBxQ
??訂閱下方合集,獲取每日推送