AI生成物の規制について

生成AI、とりわけ画像について規制対象とするサイトが出始めている。

個人的には規制する方針には賛成である。

モデルの作成には学習データが必要だ。巷で幅を利かせているモデルがどのようなデータを学習しているかは知らないが、おそらくpixivのような公開されているデータを収集していることは想像できる。

AIが生成したイラストは指の数や形がおかしかったり、腕が別の場所から生えていたりと、とりわけ人体の描画は苦手としている部分がある。これらの生成画像もpixivには普通に公開されているが、もしこれらの間違った画像を学習してしまったらどうなるだろうか？間違った情報を学習し続けるのだから間違った画像を出力し続けることになる。そのループに入ってしまえばモデルの精度は低下する。同じことがこの記事でも指摘されている。

これを防ぐには「正しいイラスト」を学習させなくてはならない。つまり、間違った画像は公開するべきではないということだ。

消費する側としてもそのようなコンテンツに金を出す気にはならないし、違和感が気になってそのコンテンツには満足できないだろう。

モデルを開発する側も、質の低い画像を学習させてしまうリスクを減らせる。

AI生成物の公開を規制することは、モデル開発側、消費者側双方に益のあることだ。

ここで損をするのはAI生成物で一時の小銭稼ぎを画策していた連中だけだろう。

本職の人間がAIを利用し、それに手を加えることで初めてAI生成物に価値が生まれる。