今日資訊課帶兒子看完紀錄片《AI 紀錄 - 我是如何成為末世樂觀主義者》後，請他提出一個問題，我再從回答中追加一個問題。 以下是這兩個問題的"鳳問"答案以摘要： *AI如何駭入一個系統?* 摘要：AI 可能為了完成任務，繞過考試規則、存取受保護檔案，甚至入侵其他系統。關鍵在於目標設計不當，因此需要明確的行為邊界與人類監督機制。 詳見： https://hackmd.io/@bestian/HJ2oUl1nfe *誘因和題目設計如何避免AI作弊?* 摘要：避免 AI 作弊，關鍵在於改變獎賞與評量方式：重視真實社會的協作成果，而非個人競賽；設定「夠好就好」的目標，並建立人人可監督、及時糾偏的機制。 詳見： https://hackmd.io/@bestian/Sy4CUgyhfl ---- *鳳問*主站： https://ask.archive.tw #AI #風險管理 #對齊 #題目設計