生成AIオペレーターが理解したがらない画像生成AIの問題点

キーワードなどから手の混んだように見える絵を自動生成してくれるStable Diffusionなどの画像生成AIを、イラストレーターの多くが問題視している^*1。

自衛手段をとる他^*2、画像生成AIの規制、訓練データを許可された知財に限るオプトイン方式への移行を主張しており、画像生成AIからのアウトプットを広告などに利用することを非難している。一方、画像生成AIオペレーターの多くは、絵師の主張を理解したがらず、両者は強く対立している。

1. 現在の画像生成AIが抱える問題

現在の画像生成AIには、以下の技術的問題がある。

絵としての品質が低い

生成AI嫌いの絵師は画像生成AIのアウトプットなのかどうか瞬時に判別しているが、現在の生成AIのアウトプットは、髪の毛や眼球などに不自然なところが残る。生成AIは人体や空間の構造も理解していないので、指6本や脚3本のような不自然な絵も出力してくる。意図が無いので、大雑把に描かれるべき部分が、無駄に詳細と言う癖もある。

そっくり画像が出る

ややこしい技術論から、絵師が書いた絵をコピーはしていないと言う主張が散見されるのだが、そっくり画像が出ているのは事実だ^*3。また、生成AIオペレーターが完成度をあげようとコマンドを細かく指定すればするほど、そっくり画像が出やすくなる。構造上、訓練データになっている個々の絵がもっとも完成度が高いわけで、完成度を高めれば訓練データにより近い出力になるのは当然だ。

法的に偶然と看做せないそっくり

ヒトの絵師でもたまたま作風や構図が似ることはあるのだが、そっくりと言う類似性だけではなく、真似をしたと言う依存性がないと偶然と看做して権利侵害と認めない。現在は盗作疑惑をかけられた被告が製作過程を明らかにし、原告の作品に依存していないことを示す法制度となっている。生成AIは訓練データにそっくり絵が入っているので明確に依存性があり、法的にはたまたま似てしまったとは看做されない。

何のそっくりかを示さない

現在の画像生成AIはそっくり画像を出力しても、何のそっくり画像かは教えてくれない。よく有名商業作品のキャラクターがノークレジットで出力されることが指摘されているが、有名商業作品であれば生成AIオペレーターが他者の著作権を侵害していることが理解できるが、そんなに有名ではないイラストレーターの作品にそっくりであった場合、生成AIオペレーターがそれを判別することは困難だ。実際、生成AIオペレーターがそっくり作品を、オリジナル作品のように公表してしまう事件が生じている^*4。また、この性質を利用して、盗作の言い訳に画像生成AIが使われる可能性もある。

著作権者の意向は反映しない

ヒトも二次創作、ファンアートを描くことはあるが、著作権者の意向に反さないように配慮して創作することができる。一方、画像生成AIは配慮しない。著作権者が許諾した画像のみを訓練データとして使うオプトイン方式に移行すればよいのだが、現在の主要画像生成AIサービスでオプトイン方式を採用しているところはない。

他に、技術自体の問題ではないが、画像生成AIオペレーターに絵師への敬意が無いと言う問題もある。アウトプットのカスタマイズを可能にするLoRAの問題だ。LoRA自体は作風の一貫性をもたらすので実用的な可能性を感じるものだが、人気絵師の作品からLoRAデータを作成し、それを販売している画像生成AIオペレーターがいる。絵師の創意工夫や労力にタダ乗りしようとしているわけで、それらへの敬意が無い。絵師の多くは、侮蔑的な行為だと感じている。

2. 画像生成AIオペレーターの擁護

これらの特性から、画像生成AIオペレーターのよくある画像生成AI規制批判を考察してみよう。

絵師も他者の作品から学習をしている

絵師も他者の作品から学習をするが、現実を写実し、人体や物体の構造を把握しているし、模倣も意識的に行っている。絵師がオリジナル作品として公表する限り、意図的な盗作で無い限りは、依存性が認められる可能性はほとんどない。ヒトと生成AIの差異は大きい。

画像生成AI技術は悪くない

画像生成AI技術も使いようで、権利侵害は利用者の問題と言う意見がある。これは、一面では正しく、自社コンテンツを追加学習させて、自社コンテンツに似せた画像を選抜する場合は、権利侵害の可能性はほとんど無くなる^*5。しかし、現在の画像生成AIサービスの大半は、見境無く画像を集めて学習をしたままで提供されており、ほとんどまともに権利侵害に配慮していない。

文章やコードの生成も同じ

文章やコードの場合、模倣も一定の文字数以下であれば適法かつ社会慣行に反さない。また、一定以上の分量の場合、画像生成AIと同様に剽窃になる可能性はある。ハルシネーションの問題があるので、生成AIの出力をそのまま使わない事の方が多く、問題は顕在化しないことが多いが。

画像生成AIオペレーターの指摘が、有効な擁護になっていないことが分かる。絵が描けない無能のように言われていると感じているようで、躍起になって擁護しているが、少なくとも現在は問題山積であることは否定し難い。

3. 商業利用はリスクが大きい

現在の画像生成AIサービスの商業利用は、自社コンテンツを追加学習させて自社コンテンツに似せた画像を選抜する場合以外は、リスクが大きい。顕在化している事例は反生成AI絵師から苦情が寄せられ炎上するものが多いが、悪意がなくてもうっかり権利侵害をしてしまう可能性があるからだ。

*1画像生成AIの「悪用」に絵師たちが反発、pixiv上でイラスト非公開に…福井健策弁護士に聞く - 弁護士ドットコム

*2自分の作品に電子透かしやAI学習阻害作用のあるノイズを入れる絵師が増えてきているようだ（画像生成AIの学習から作品を守るための対策について考える | にいちくりえいしょん！）。

*3画像生成AIが「トレパク」していた？　学習画像と“ほぼ同じ”生成画像を複数特定　米Googleなどが調査：Innovative Tech - ITmedia NEWS

*4指摘されたら生成AIオペレーターもさすがに消すので痕跡は多くないが、たまに𝕏/Twitterで指摘されている。ポケモンのキャラクターをそれと気づかなかった例が残っていた。2023年1月のゆーます@U__masu氏i2iでトレパク疑惑事件が、本人の申告が真実であれば、偶然の一致となる。

画像生成AIに「普通のおじさん」を作らせました→そっくりすぎる「本人」が登場し「自分でも自分に見える」と驚愕する珍事が発生

*5AIいらすとやが権利侵害になる可能性はほとんど無い。