隨著研究推動了人工智慧的可能性的邊界，由算法創造的藝術——生成藝術——也越來越流行。從創作繪畫到發明新的藝術風格，基於人工智慧的生成藝術已經在一系列應用中得到展示。但富士通研究人員的一項新研究調查了偏見是否可能潛入用於創作藝術的人工智慧工具中。利用模型，他們聲稱目前的人工智慧方法未能考慮到社會經濟影響，並且表現出明顯的偏見。
在他們的工作中，研究人員調查了學術論文，在線平臺，以及使用人工智慧生成藝術的應用程式，選擇了那些專注於模擬已有藝術流派和風格的例子。為了調查偏見，他們考慮了在以下類型——運動（例如文藝復興藝術，立體主義，未來主義，印象派，表現主義，後印象派和浪漫主義），流派（風景畫，肖像畫，戰鬥題材畫，素描和插圖），材料（木版畫，版畫，顏料）風格和藝術家（克萊門汀·亨特，瑪麗·卡薩特，梵谷，古斯塔夫·多爾，吉諾·塞維裡尼）——接受過訓練的最先進的人工智慧系統。
通過使用被稱為有向無環圖（DAG）的因果模型，研究者稱他們能夠識別出與人工智慧生成的藝術品相關的方面，以及這些不同方面是如何相互影響的。在一個例子中，他們發現DeepArt，一個讓用戶按照其他藝術家的風格重繪圖片的平臺，在將費爾南多·萊格的立體派作品《螺旋槳》轉換成未來主義風格時，沒有考慮運動因素。在另一篇文章中，他們報告說，瑪麗·卡薩特的《瑪麗·埃裡森小姐》——一部由DeepArt轉換成表現主義的現實主義作品——沒有表現主義那種標誌性的扭曲的主題。
這些偏見中，有的比其他的危害更大。GoArt是一個類似DeepArt的平臺，它將克萊門汀·亨特筆下的黑人女族長的臉部顏色從黑色改為紅色，將其轉換成表現主義風格，同時保留了像德斯德裡奧·達·塞蒂尼奧諾（Desiderio da Settignano）的雕塑作品Giovinetto那樣帶有白色臉部的藝術品的顏色。而另一種生成性的藝術工具——算盤——則把拉斐爾和科西莫的藝術品中留著長發的年輕男子誤認為是女性。
研究人員將此歸咎於用於訓練生成型人工智慧模型的數據集的不平衡，他們指出，這可能會受到數據集管理員偏好的影響。例如，研究中引用的一個應用——人工智慧肖像畫——使用了45,000張文藝復興時期的肖像畫進行訓練，這些肖像畫中大部分是白人。研究人員稱，另一個潛在的偏差來源可能是標註過程中的不一致，或者是用標籤來標註數據集的過程，模型就是從這些標籤中學習的。不同的標註人員有不同的偏好，文化和信念，這些可能反映在他們創建的標籤中。
研究報告撰寫人員寫道：「在藝術流派（例如大量的照片和少量的雕塑），藝術家（例如大部分是歐洲藝術家和少數本土藝術家），藝術運動（大量的文藝復興和現代藝術運動的作品和其他作品）等方面可能存在不平衡……描繪不同種族，外貌等的面孔沒有匯集到數據集中，從而助長了表徵偏見。」
研究人員警告說，通過錯誤地建模或忽略某些微妙的成分，生成藝術可能會造成對過去時代的社會，文化和政治方面的錯誤認識，並阻礙對重要歷史事件的認識。出於這個原因，他們敦促人工智慧研究人員和從業者檢查設計選擇和系統，以及塑造其使用的社會政治背景。