技術(shù)發(fā)展方面，隨著謂詞推理、專家系統(tǒng)、知識(shí)樹和向量機(jī)學(xué)習(xí)等傳 統(tǒng)技術(shù)的發(fā)展日趨放緩，促使以聯(lián)結(jié)主義和概率統(tǒng)計(jì)等理論為基礎(chǔ)的深度 學(xué)習(xí)加速發(fā)展，邁入了以人工神經(jīng)網(wǎng)絡(luò)為基礎(chǔ)、以大模型為典型應(yīng)用的新 發(fā)展階段。

在模型方面，大規(guī)模人工智能模型逐步成為業(yè)界主流。以生成式人 工智能為例，具備數(shù)百億參數(shù)的模型已非罕見，并隨著模型規(guī)模增長(zhǎng)產(chǎn)生 了接近人類的“GJ”能力，使人們相信通用人工智能或?qū)⒌絹怼? Stable Diffusion 、Midjourney等視覺生成模型具有類似人類的視覺創(chuàng)作能力， ChatGPT等文本生成模型具有G度近似人類的語言推理和規(guī)劃等能力。有 研究認(rèn)為，這些能力是隨著模型參數(shù)達(dá)到數(shù)百億J別后逐漸產(chǎn)生的，雖其技術(shù)原理尚未明晰，但進(jìn)一步推動(dòng)了模型越來越大的技術(shù)趨勢(shì)。

在訓(xùn)練方面，有人類參與的指令微調(diào)技術(shù)是近年來人工智能的另一 大技術(shù)特點(diǎn)。指令微調(diào)主要有三種實(shí)現(xiàn)形式，以預(yù)訓(xùn)練語言模型為例：一 是引入人工撰寫的大量對(duì)話數(shù)據(jù)對(duì)模型進(jìn)行微調(diào)訓(xùn)練；二是人工對(duì)微調(diào)后 模型面向同一提示詞生成的多個(gè)備選答案進(jìn)行價(jià)值排序，訓(xùn)練價(jià)值評(píng)分模 型；三是在價(jià)值評(píng)分模型的獎(jiǎng)勵(lì)信號(hào)下，微調(diào)模型進(jìn)行強(qiáng)化學(xué)習(xí)訓(xùn)練，不 斷改進(jìn)模型的表現(xiàn)。通過該部分技術(shù)，可將在海量語料庫上訓(xùn)練的模型與 復(fù)雜的人類價(jià)值觀實(shí)現(xiàn)對(duì)齊，期望人工智能可以生成正確、有用、無害的 內(nèi)容。