比前段時間 OpeAI 家的 DALL·E 2 更強!
為了去除噪音和不良內容(如色情圖像和「有毒」言論),Google對訓練數據的子集進行過濾,同時Google還使用了眾所周知的LAION-400M數據集進行過濾對比,該數據集包含網路上常見的不當內容,包括色情圖像、種族主義攻擊言論和負面社會刻板印象。Imagen依賴於在未經策劃的網路規模數據上訓練的文本編碼器,因此繼承了大型語言模型的社會偏見和局限性。這說明Imagen可能存在負面刻板印象和其他局限性,因此Google決定,在沒有進一步安全措施的情況下,不會將Imagen發布給大眾使用。