Transformers

[新科技速遞]

科幻小說和電影為題材的作品，經常有人工智能（AI）機械人參與太空探索任務。科幻電影《星際啟示錄》（Interstellar）搭載兩部具語言能力機械人，承擔了重要任務，還可設定「幽默度」，向人類講冷笑話，漫長枯寂的太空探索中添上生氣。

究竟AI會否講笑話？Google至少證明了AI聽得明笑話，具備幽默感。上述技術難度在於，幽默和笑話語帶雙關，必須揣摩隱誨語意，有時盡在不言，難以從表面語意解釋，必須參詳琢磨其他含意，甚至具備聯想力，才能參破其中含意。

Google自然語言處理（NLP）的多項突破，最為人認識是Transformer模型，尤其是 Transformer雙向編碼表示法（Bidirectional Encoder Representations from Transformers，BERT），屬於近期NLP影响力最大算法之一，在SQuAD問答系統、實體識別、意圖識別、情緒分析這類基準，準確度與人類相差無幾。

去年，Google Research宣佈建立了參數超過5400億的Transformer模型PaLM（Pathways Language Model）。PaLM作為單一模型，可高效伸延至不同領域和任務。Google Research在29個英語處理任務測試PaLM，通過了數百個語言理解和生成任務的評估，大多數任務上都達到最先進few-shot性能，甚至理解語帶雙關內容，還可解釋笑話。

PaLM語言能力接近約六成9-12歲兒童平均解決問題的能力，可為需要多步邏輯推敲，以各種知識和深入語言理解複雜組合的語言場景，生成出明確解釋。

PaLM可以瞭解笑話的含意，也可憑語意猜度出人類的意圖，結合NLP機械人自行判斷如何執行工作，具備決策能力。Google剛公佈PaLM-SayCan機械人算法，機械人就可憑隱誨不明的語言，理解人類的需求，自行決定如何反應，完成複雜動作。Google機械人語言令人機互動，跨進一大步。

例如研究人員向機械人說：「我剛弄洒了咖啡，可以幫忙找東西清潔？」機械人馬上分析「弄洒了咖啡」代表的意思，權衡各種處理方法，經算法計算機率，決定去廚房找一塊海綿執行清潔任務。

通過AI語言模型，機械人現在可理解人類以不清晰指令，單憑語意和情景，足以猜度人類意圖，組合一系列回應。PaLM-SayCan最大突破在於機械人終於懂得察言觀色，並推論出如何反應，

以往大多數機器人，都須在嚴格指令和條件下，才懂得執行程式預設任務，機械人只按照預計接受命令，一絲不苟執行重覆性任務，自動生成任務，更接近於從科幻小說中目睹的機械人。

不過AI機械人是否有《星際啟示錄》中機械人CASE先見之明，提前關閉了自動對接程序，令飛船免受控制拯救主人，相信乃是耐人尋味。 Continue reading “NLP| Google| AI機械人能解人意 心領神會完成任務 “