【人工智慧最後的祕密：權力、政治、人類的代價，科技產業和國家機器如何聯手打造AI神話？】筆記

背景概述

人類需要反思AI智慧是如何被「製造」出來，如它最佳化了什麼、為誰最佳化、由誰做決定，並追溯那些選擇的意義，並反思會對人類社會造成什麼影響。

重點1 從社會角度思考AI

• 地球資源：人類在實現大規模運算時，實際需透過開採礦物、消耗能源、燃料、水，以戰爭、暴力、環境破壞換取高科技世界。

• 勞工：人類會逐漸被當機器對待，如透過AI管理員工以壓榨出最大的價值。

• 資料與分類：用於訓練AI的資料難以被確認人類是否以主觀偏見的角度做分類，以及難以確認蒐集資料時是否違背倫理、隱私。

• 國家：國家透過日常生活中所有可追蹤的事物建立評分機制，以規範出「好公民」的定義。

重點2 人工智慧的本質是政治

人工智慧資料集的本質實際是政治性的，人類以自己的價值觀將一切分類找出特徵，同時忽視或掩蓋其他特徵。