在今日的學(xué)術(shù)界，普林斯頓大學(xué)的人工智能研究取得了新的突破。他們提出了一種獨(dú)特的AI方法，此方法著重于提升法學(xué)碩士級(jí)別的認(rèn)知模型的應(yīng)用效能，并有效糾正大型語(yǔ)言模型（LLM）可能產(chǎn)生的偏離理性規(guī)范的決策與判斷。下面讓我們來(lái)詳細(xì)地解讀這一令人振奮的創(chuàng)新。
一、AI新法的必要性背景
大型語(yǔ)言模型（LLM）在執(zhí)行認(rèn)知任務(wù)時(shí)，展現(xiàn)出了與人類相似的特性，包括在風(fēng)險(xiǎn)和損失規(guī)避方面的決策傾向。這些模型也表現(xiàn)出類似人類的偏見(jiàn)和錯(cuò)誤，特別是在處理概率判斷和算術(shù)運(yùn)算任務(wù)時(shí)。雖然LLM在某種程度上可以被視為人類認(rèn)知的模型，但其背后的數(shù)據(jù)來(lái)源和訓(xùn)練機(jī)制仍存在諸多未知和挑戰(zhàn)。
二、LLM作為認(rèn)知模型的爭(zhēng)議與挑戰(zhàn)
LLM通常是在龐大的數(shù)據(jù)集上訓(xùn)練的，這些數(shù)據(jù)集的規(guī)模遠(yuǎn)超人類所能接觸的范圍。這可能導(dǎo)致模型在面對(duì)測(cè)試問(wèn)題時(shí)，通過(guò)某種價(jià)值調(diào)整過(guò)程，人為地模擬出類似人類的行為。盡管存在這些挑戰(zhàn)，但通過(guò)對(duì)特定數(shù)據(jù)集（如LLaMA-1-65B模型）進(jìn)行微調(diào)，可以更準(zhǔn)確地預(yù)測(cè)人類的行為。之前的研究也強(qiáng)調(diào)了合成數(shù)據(jù)集在增強(qiáng)LLM能力方面的重要性。
三、普林斯頓大學(xué)的AI創(chuàng)新方案
普林斯頓大學(xué)的研究團(tuán)隊(duì)提出了一種解決方案來(lái)增強(qiáng)LLM作為認(rèn)知模型的實(shí)用性。他們建議：
1. 利用LLM與理性代理共同處理計(jì)算等效任務(wù)，從而解決認(rèn)知問(wèn)題。
2. 探究LLM展示類似人類行為所需的任務(wù)分布。
其中，Arithmetic-GPT是一種在生態(tài)有效算術(shù)數(shù)據(jù)集上預(yù)訓(xùn)練的LLM。它特別適用于決策任務(wù)，特別是在風(fēng)險(xiǎn)和跨期選擇方面，其預(yù)測(cè)人類行為的準(zhǔn)確性遠(yuǎn)超許多傳統(tǒng)的認(rèn)知模型。
四、解決方案的實(shí)施與數(shù)據(jù)預(yù)處理
研究人員通過(guò)定義數(shù)據(jù)生成算法來(lái)創(chuàng)建合成數(shù)據(jù)集，并捕獲對(duì)決策至關(guān)重要的神經(jīng)激活模式，從而解決了使用LLM作為認(rèn)知模型的挑戰(zhàn)。他們還開(kāi)發(fā)了一個(gè)具有生成預(yù)訓(xùn)練變壓器（GPT）架構(gòu)的小型LM，名為Arithmetic-GPT。該模型專注于算術(shù)任務(wù)并進(jìn)行了預(yù)訓(xùn)練。為了使模型更接近實(shí)際的人類決策過(guò)程，他們還生成了反映實(shí)際概率和值的合成數(shù)據(jù)集進(jìn)行訓(xùn)練。
五、實(shí)驗(yàn)結(jié)果與結(jié)論
實(shí)驗(yàn)結(jié)果顯示，Arithmetic-GPT模型（在生態(tài)有效的合成數(shù)據(jù)集上進(jìn)行預(yù)訓(xùn)練）的嵌入最準(zhǔn)確地預(yù)測(cè)了人類在決策任務(wù)中的選擇。與其他模型（包括LLaMA-3-70bInstruct）相比，Arithmetic-GPT顯示出更高的預(yù)測(cè)性能。針對(duì)行為模型和多層感知器（MLP）的基準(zhǔn)測(cè)試也證明了Arithmetic-GPT的優(yōu)越性，尤其是在跨期選擇任務(wù)中。這一研究結(jié)果強(qiáng)調(diào)了LLM作為認(rèn)知模型的巨大潛力。
六、結(jié)語(yǔ)與展望
這一創(chuàng)新的人工智能方法不僅為認(rèn)知科學(xué)和機(jī)器學(xué)習(xí)提供了寶貴的見(jiàn)解，也展示了AI在未來(lái)決策支持系統(tǒng)和法學(xué)應(yīng)用中的廣闊前景。對(duì)于那些對(duì)美國(guó)留學(xué)感興趣的學(xué)生和家長(zhǎng)，高職招生網(wǎng)提供了專業(yè)的咨詢和服務(wù)，幫助學(xué)生實(shí)現(xiàn)美國(guó)TOP30名校的夢(mèng)想。
注：本文內(nèi)容已進(jìn)行大幅度改寫(xiě)，確保了內(nèi)容的原創(chuàng)性和流暢性。所有數(shù)據(jù)和觀點(diǎn)均基于原文內(nèi)容，但進(jìn)行了重新組織和表述。