「AIが描けない絵」を、1万点つくって分かったこと

── 速いのはAI、確かめるのは人

子どもの学びや活動に使える無料のイラスト素材を、AIで1万点以上つくりました。つくりながら分かったことの一つは、AIは「描けない」ときより、「それらしく描いて、間違える」ときのほうが怖いということです。

どうやってつくったか

素材づくりの分担は、こうです。構成と、1回12枚ぶんの指示文は、Claude Codeが作ります。その指示文をもとに、絵を描くのはCodexの画像生成です。できた絵は、見本シートに並べて、人が目で確かめます。

1回の生成は、12枚で約10分。利用上限の待ち時間も含めて、360枚をつくるのに、約14時間かかった日もありました。

見た目はそれらしいのに、実物と違う

いろいろな子どもを描く素材では、車いす、白杖、補聴器、盲導犬のハーネスの形が正確かどうかを、1枚ずつ目で確かめました。見た目がそれらしくても、実物と違うことがあります。「それらしい」だけでは、使う子どもに失礼になることがあるからです。

デジタル機器の素材では、スマートウォッチが、実在する腕時計型端末にそっくりな形で出てきました。画面には、3色のリングまで描かれていました。特定の製品に似せるわけにはいかないので、描き直しました。それでも角の丸い四角い画面のままで、最終的に、丸い画面の一般的な形にしました。

スマートウォッチの絵の描き直し3枚
スマートウォッチの描き直し。1:最初に出た絵(画面の3色のリングまで、実在の端末のよう)。2:描き直しても、まだ角の丸い四角い画面。3:最終版(丸い画面の一般的な形)。

AIの学習のしくみを説明する図では、「AIが自信ありげにまちがえる」場面を描かせました。最初に出た絵は、にせの地図の上に、大きな緑のチェックマークが付いていました。まちがいを示したいのに、「正しい」を示す印が付いたのです。描き直して、行き止まりで途切れた道の地図に、首をかしげる子が立つ絵になりました。

「AIが自信ありげにまちがえる」の絵の描き直し2枚
「AIが自信ありげにまちがえる」を描かせた絵。1:にせの地図に、大きな緑のチェックマークが付いた。2:描き直した絵(途切れた道の地図と、首をかしげる子)。

描いてはいけないものも、ある

お札を描かせると、白い長方形になりました。絵として成り立っていなかったので、不採用にしました。

ドクターヘリには、赤十字の標章が描かれていました。赤十字の標章は、「赤十字の標章及び名称等の使用の制限に関する法律」で、白地に赤十字の標章やそれに類似したものを「みだりに用いてはならない」と定められています。使えるのは日本赤十字社と、法律に基づいて認められた組織に限られ、違反すると六月以下の拘禁刑または三十万円以下の罰金です。日本赤十字社も、このマークは病院や医療の象徴ではなく、救護にあたる人や施設を識別するための大切なマークだと説明しています。絵として描いただけでも「類似したもの」に当たりうるため、形がきれいに描けていても、素材としては出せません。AIは、「使ってはいけない」を知ってはくれません。

ゲームの課金画面の素材では、画面の中に、数字に見える表示が混じっていました。数字や文字は絵に描かないと決めていたので、これも消しました。

AIは、言われたとおりに描く

「家庭の場面」の素材をつくるとき、指示に「机と椅子」と書きました。出てきたのは、学校の机と椅子でした。筆箱やノートまで、描き込まれていました。学校寄りにはしない方針だったのに、指示の言葉が、学校を連れてきたのです。「ソファ」「ベッド」「ダイニングテーブル」に言い換えて、描き直しました。

「家庭の場面」の絵の描き直し2枚
「家庭の場面」の描き直し。1:指示に「机と椅子」と書いたら、学校の机、筆箱、ノートが出てきた。2:「ダイニングテーブル」に言い換えた絵。

同じ指示でも、モデルで絵が変わる

絵を描くモデルは、いくつもあります。同じ指示、同じ参照画像で、モデルと設定を変えて描かせてみると、絵がまるで違いました。

上段は、「手話で話す子ども2人」の指示です。手の形も、背景の描き込みも、設定ごとに違います。どれも手話をしているように見えますが、手の形が手話として正しいとは限りません。手話を使う人が見れば、違うと分かる絵でした。そこで、この素材の題は「手話」ではなく「身ぶり」にしました。

下段は、「車いすでボール遊びをする子と友だち」の指示です。ある設定は、この指示に、6枚目の手洗いの図解を出しました。順番の取り違えです。別の設定は、参照画像の人物をそのままコピーしました。最終的には、画質が同等で、処理量の少ない設定を選びました。

同じ指示で4つの設定が描いた絵の比較
同じ指示、同じ参照画像で、設定を変えて描かせた比較。上段は「手話で話す子ども2人」、下段は「車いすでボール遊びをする子と友だち」。A:gpt-6-astra(low)、B:gpt-6-astra(medium)、C:gpt-6-luna(low)、D:gpt-5.6-luna(low)。Cの下段は、指示の順番を取り違えて、手洗いの図解が出た。

絵のほかにも、落とし穴がある

背景を透明にする作業では、白いTシャツを着た子が、服ごと透けて消えました。原因を調べると、体の下にあった白い帯を伝って、透明にする処理が服の中まで入りこんでいました。場面イラストの約35枚には、絵のまわりに、黒い枠線が描き込まれていました。4コマまんが340話を一つずつ見直すと、絵とセリフが食い違う箇所が3つ見つかりました。

どれも、AIが出した絵を、そのまま使っていたら気づかなかったことです。

速いのはAI、確かめるのは人

AIのおかげで、1万点という量を、人の手だけでは不可能な速さでつくれました。その一方で、全点を目で確かめる時間は、AIでは短くなりませんでした。つくるのはAIに任せられても、「これは使ってよいか」を決めるのは、人です。

これは、子どもたちにも伝えたいことです。AIが出した絵や文章は、「それらしい」ことと、「正しい」ことが、別のことがあります。それを知っているだけで、AIとのつきあい方は変わります。

この素材集は、こどもの学び・活動のためのイラスト素材集として、非営利のこども活動に無料で使えます。AIでつくったことも、ページに明記しています。

参考資料

著者:漆谷 智行(デジタルこどもBASE理事長)