我們知道，AI已經在繪畫和音樂領域取得了不錯的成果。美國認知科學家侯世達，曾經寫過一篇文章來討論AI的作曲，他說，「一旦音樂最終不可避免地被歸約為語法模式，那會是非常黑暗的一天。」
但這種發展是難以避免的。人工智慧已經能寫出類似巴赫和蕭邦的作品，而且作曲的速度比人類作曲家要快得多。以現有的趨勢來類推，也許未來有一天，內容創作領域將會被AI佔據。少數幾個IT企業，會以人類遠不能及的速度生產出大量內容，佔滿我們的注意力和時間。
當小說、音樂之類的內容可以用AI大量生產的時候，顯然會導致這些產品的價格大幅度降低。這會讓這些領域的創作者們難以維持生計，不得不離開這個行業。那些留在這個行業的人，也只能大量生產粗製濫造的內容，以量取勝而非精雕細琢；因為只有以這種方式，才能在和AI的競爭中勉強獲得足以餬口的報酬。這會進一步導致信息過剩，破壞創作的生態環境。
那麼在法律上，將如何看待這種狀況呢？比如，AI創作的內容，智慧財產權應該歸誰？是這個AI的使用者嗎？還是AI的開發者？又或者，AI生產的內容不應該受智慧財產權保護呢？這個問題，將會決定我們未來所接觸到的精神產品，會具有怎樣的品味和質量。
上世紀70到90年代，就有一些對這個問題的討論。聯合國教科文組織、美國和日本都認為，如果是人類以電腦為工具生產的內容，比方說你現在聽到的這篇聽書稿，是我在電腦上一個字一個字敲出來的，那麼它就可以看成是著作，享有著作權。但如果人的作用只是按下一個按鈕，剩下的工作都是由計算機自動完成的，那麼則不算著作。而英國在1998年修改了著作權法，認定後一種情況也可以屬於著作。也就是說，對計算機創作的作品是否享有著作權，仍然存在爭議。
這是因為，在擬訂著作權法時，沒有考慮過某個企業會壟斷數百萬種作品的情況，這是在AI出現後才會出現的新的可能性。按照目前的法律，AI生產的作品很可能不受保護。這對於我這樣的內容創作者來說，是個好消息。
也許你覺得智慧財產權問題和自己的關係不大，但接下來的一個問題，必定會影響你的正常生活，那就是AI網絡化對個人隱私的掌控。比如，你將來很可能會購買一個擁有人工智慧的家用機器人，它會收集你日常生活中的種種細節；當你在網上購物或者使用社交網絡時，人工智慧推薦系統會分析你的偏好，並且掌握那些甚至連你自己都沒有意識到的個人傾向。這些隱私和個人數據本來只屬於你自己，但是在AI面前，你的一切都將無所遁形。
在上世紀末就有研究者提出，應該將隱私保護放在系統設計的各個環節，最大程度地尊重使用者的隱私。2016年，歐盟確立了一般數據保護規則，要求信息系統在設計階段和初始設定中加入數據保護，讓個人隱私僅可以被使用者個人查詢。但是總的來說，直到今天，個人隱私保護的相關技術，並沒有獲得足夠重視，如果我們想保護隱私，那只能在生活中時刻注意。
而個人數據方面所面臨的問題，甚至比隱私還要大。谷歌曾經開發過一種眼鏡，會持續拍攝面前的景象，並且在網絡上查詢相關信息。這個項目最後被關閉了，但是，市場上還有各種各樣帶攝像頭的眼鏡，而且，我們還時刻處於監控攝像頭、無人機和自動駕駛汽車的攝錄畫面中。這些個人信息沒有經過我們的允許就被收集起來，而它們是否會被濫用，我們並不知道。
今天的網際網路巨頭們，都掌握了大量用戶的個人數據，並且將這些數據作為企業競爭力的重要組成部分。比方說，已經有電子商務企業開始嘗試新的AI定價機制，當判斷你對商品的價格不太在意時，就會給你正在瀏覽的商品顯示較高的價格。這顯然是一種歧視。這應該歸結為企業對個人數據的使用範疇，而這個領域，目前還處在法律的灰色地帶。
日本在2013年修正了《個人信息保護法》，來應對這些不確定的問題。在修正後的法律中，制定規則來強化個人信息保護，要求企業履行儘可能消除客戶個人數據的義務，並規定未經當事人同意，不得向其他人提供數據。這些規定，是為保護個人數據安全採取的措施。但是，類似的規定，要得到國際社會的統一認可，成為所有企業的行事標準，成為每個網際網路和AI用戶的基本守則，還有很長的路要走。