三月

生成AIの出力物を判別できることと表示義務化、著作物に対する一方的な搾取構造の解消、模倣やコピーなど悪用がまかり通るなんでも出力できる状態の内部的規制と法規制。これらが整えば、出力の自由さは失われるだろうが本来あるべき人間のための便利な道具としてやっとスタートできると思う。

でもその場合、一般公開で全世界一斉無料βテスト状態にし、著作権問題の議論・対策が想定されていない間に急速に追加データ収集・フィードバックを世界規模でやったからこそ使い物になるレベルまで進化できたという、成り立ちから矛盾してしまうので皮肉だな。

生成AIぽさから受ける印象が「新しさ」ではなく、そこらに溢れる迷惑生成物や胡散臭いAI広告と第一印象同じになるのがイメージ最悪と思う。もし一般公開せず企業契約主体の展開だったら、迷惑行為もなくモラルやセンスのないゴミで埋め尽くされ消費されず、最先端のイメージを打ち出せたかも知れないが

フィルムスタディやってたときノーランの構図全部バチバチに視線誘導のリズム決まってて気持ちよかった。生成AIは構図がとにかくグチャグチャなリズムだから、結果どれもハイクオリティな絵心のない絵という奇妙な印象になってるのが気になるんだけど、絵を描かない人ほど構図は気にしないんだよね

クリストファー・ノーラン監督（DGA会長）が進めてきたAI規制への地盤づくりが、具体的な形になってきた。全米監督協会（DGA）が6月9日、全米映画テレビ制作者協会（AMPTP）と4年間の労働協約で暫定合意。続く6月12日、DGA全国理事会が全会一致で承認・推奨し、AI規制の中身が明らかになった。①AI生成のあらゆる映像・素材に対する監督の監修（オーバーサイト）権の義務化、②スタジオが生成AI学習用に監督作品をライセンスする際のDGAへの通知義務化、③雇用主資金による監督向けAI技術トレーニングの設立、の3本柱だ。ノーラン氏は今年初め、組合員の業務がAIでどう変化するかを規制したいと米誌THRに語っていた。先行するWGA（脚本家組合）とSAG-AFTRA（俳優組合）も4年契約を承認済み。ハリウッドの3大組合が、AI時代の業務規制で足並みを揃えはじめた格好だ。 mediamixi.jp/news/6387/

依頼する側・作らせる側からの、人間に作らせてもやらかすんだから生成AIでも同じ という感覚なるほどなと面白かったです。 私は自身がやらかせば自分の経歴に傷が付くので、これは使えないと避けるわけですが、作らせる側がどこか楽観的なのはまだ権利問題の世界的なルールが紛糾・保留になっており、

@AIart_ignis ちょっと衝撃の理解力の低さと支離滅裂さです…さすがに義務教育レベルの会話が成り立たないのでは申し訳ないですがここで終わりとさせて頂きます。 個人で使う分には個人の責任なだけなので楽しまれたらいいと思います。

知る知らない以前に学習内容を 全部知ってるほうがおかしいからね？ 自分がどれだけ意味不明なこと言ってるか 本当にわかってますかね。 i2iは別の技術です。 僕は自分で生成したもの以外で 使ったことありませんし、 そもそも僕のイラストと酷似したものなんて 一度も見たことありません。 それに僕のイラストは9割方、 生成したものそのままで投稿しています。 i2iではレンダリングくらいしかしてません。 僕がそこまで知らないとか思ってるならナメ過ぎ。 あなたは技術を本気で知らなすぎです。 AIは学習から全く新しいものを作る技術です。 第一にモデルの中に既存物のデータは 一切含まれていません。 AIの知識としてのみ存在してるだけです。 知識と画像の違いくらいはわかりますよね？

生成AIが使い物にならないと警戒するのがこれ。既存デザインに酷似したものが出力されても使った側はそれを把握しきれない。自分で作ったものなら何に影響を受けどの程度似てしまったかなど自覚して修正できるが、生成AIが作ったものだとそれが構造的に不可能になるの怖すぎて使えないでしょ。

@AIart_ignis 自分が知らないものの存在は認識できないという前提を正しく理解されていますか？まさかi2iやControlNetを利用し生成したから、自分が食わせた元画像との一致が低いことだけを確認していますなんてオチでないことを祈りますが。

少なくともあなたよりはイラストに対する知識や キャラの知識はありますので違いくらいわかります。 あなたの「はず」って言ってる時点で憶測なんですよ。 そして決めつけで語らないでください。 僕は大体の違いや既存作品に対する酷似性は あなたよりは遥かに多く確認できます。 それにプロンプトって単なる引き出しの鍵だし、 そもそも生成の仕組みが全く違う新しいものを 作る技術なのでその認識は間違いです。 まさかとは思いますけど、 モデルの中にイラストが保存されていてそこからパッチワークのように切り貼りしてるとでも思ってますか？ もしそうなら完璧に違いますからね。

@AIart_ignis 今回のように参考を絞ってリスクを上げるようなことをせず、極力普遍的で特定対象を含まないようなプロンプトを工夫したとしても、内部プログラムがブラックボックスな以上、操作側では類似性を制御しきることも、把握することも実際には不可能です

@AIart_ignis どうやって３万枚もの生成物について、既存物を生成されていないと確認できたのでしょうか？人間にそんな断言はできないはずです。 自身が見たことのない世界中の膨大な著作物との類似を知る術などないですよ。類似を指摘できる者が見たとき類似が表沙汰になる。

@AIart_ignis 自分の全く知らぬデータ群からの生成というAIの特性上の問題ではと。プロンプトに合致するデータ群の分母が狭い場合に依拠性が跳ね上がること、学習データ内の画像そのままのものが出てしまう例などもご存知と思います。人間側の制御でその偶然の一致を回避しきれたかが把握しきれない点への懸念です

@sn25516 結局その意見なら制御する人間側の問題であって AI無関係ですよね？ そう言わずにAIを危険視する意味がわからん って言ってます。 携わろうが何しようが同じ。

@gah0316 画像のようなほぼ同一コピーレベルの酷似に関しての発言であることを前提として頂き、以下一連のやりとりで返答とさせて下さい x.com/sn25516/status…

@sn25516 そんなことはない。無自覚も多い。

@AIart_ignis また今回の一例については、明らかにBotWを意識した指示を出しているだろうと想像できますが、モンスターIPのメインロゴ（商標登録済）を、生成AI側では区別せずほぼ同一のものを穴埋めデザインとして吐き出しているところに、チェック側では制御しきれなさを感じての発言です。

@AIart_ignis パクリや悪だの過去において一度も言ったことないです。生成AIはただ学習データ内から類推生成をするのみ。私はこういったものを納品する側で、制作物の素性を把握しクリーンであることを担保する義務があるため、そこを自身で把握不能な点で現状使い物にならないと言わざるを得ないだけです（→続く）

@fool44922022 いや、商標登録～～～～笑笑笑！ そういう重要な著作権情報が生成AIのデータベース収取過程で学習されていればよかったんですけどね。技術としてはとても面白いんですが、著作権を考慮しなかった起こりがまず残念ですね。雑極まりない返答が続くのでこれにて対応は失礼します。

@sn25516 そもそも三角形三つの組み合わせは北条家の家紋に使われていて、著作権を主張出来るようなものではないでしょう。 それと鳥のモチーフが組み合わさったものなので、そこまでの独自性を主張できるものなのかという問題かと思います。 ja.wikipedia.org/wiki/%E5%8C%97…

@fool44922022 異論なしです。チェックをすり抜け著作権侵害を見逃し発表すれば制作者のみならず発注側（生成AI使用者）も非難され責任問題に当然なります。なので私は自分の仕事についてそのチェックが可能なコントロールをしたいだけです。自分で作ったものならその素性を明白にできるので。ご理解頂けるかと。

@sn25516 AIを使用する人間は、絵師に仕事を発注する側に例えられる話でしょう。 であれば、納品された作品をチェックする責任は発注者側にも当然ある。 それを怠って、著作権侵害を指摘されれば発注側も非難されるのはおかしくないかと。

@fool44922022 想定している立場が違います。私は発注内容を納品する絵師側で、自分が制作したものの素性が確実にクリーンであると保証する責任があり、著作権侵害を把握しきれないのでは責任上使いものにならないという所感です。「キチンとチェック」が事実上不可能という一点を納品側として問題にしています。

@sn25516 @Zweir_Exa それは人間の絵師を使っても大差はない話でしょう。 絵師に責任を負わせることは出来ても、絵師を使って作品を発表した人や会社の評判同時に下がるのは変わらないでしょうし。 結局、キチンとチェック出来るかどうかの話になるかと思います。

@fool44922022 あるでしょうが、今回のような複雑な商標デザインが複製レベルで細部まで偶然一致するようなことは考えにくいのと、今までの人の手による仕事であればある程度の類似は「偶然似ただけでは」という容認もありましたが生成AIとなるとそこに確実に元データが含まれるため争点が変わると感じています

@sn25516 @379yd 変質の結果、無関係なものと似てしまう可能性もあるのでは？

@fool44922022 @Zweir_Exa その通りです、責任は使う側にあり全知の人間は存在しない以上、生成AIが時にこのような1:1の複製レベルの生成結果を吐き出しても把握しきることは不可能で、しかし結果は自分の責任となるためこれでは現状使えないという所感です。

@sn25516 @Zweir_Exa 責任はそれを公開した主体に存在するというのはAIだろうが人だろうが変わりはしないでしょう。 AIが人の指示なしに勝手に公開するわけではないですし。

@kent446 @Zweir_Exa まさに同様のことを言ってます。責任は使う側にあり全知の人間は存在しない以上、生成AIが時にこのような1:1の複製レベルの生成結果を吐き出しても把握しきることは不可能で、しかし結果は自分の責任となるため現状使えないという所感です。何かしら似ている程度は今回問題にしておりません。

@Zweir_Exa 全知でない以上やらせる側はどうやったって把握しきれませんよ。作る人の人生と紐づいた責任の枷による倫理がフィルターとなりますが、生成AIには倫理も責任もなく、責任が宙に浮く構造が問題の根だと感じます。 AIでチェックはすぐ実現するでしょう、その頃トークンコストは更に上がると予測しますが

@sn25516 でもそれって人に頼んだ時も同じよね？ 結局は作らせた以上は人にやらせようがAIにやらせようがリスクはあるしマネジメントは必須。 把握しきれないはやらせる側の言い訳にすぎない ポケモン（ポケポケ）ですらやらかしてるし