最初に発表されてから数か月が経ち、アーティストが自分の作品でトレーニングしようとする AI モデルに「毒」を与えることを可能にする新しい無料ソフトウェア ツールであるNightshadeが、アーティストがダウンロードして、適切と判断したあらゆるアートワークで使用できるようになりました。
ベン・ジャオ教授の下、シカゴ大学のGlaze プロジェクトのコンピューター科学者によって開発されたこのツールは、基本的に AI を AI に対抗させることで機能します。これは、人気のあるオープンソースの機械学習フレームワークであるPyTorchを利用して、特定の画像に含まれるものを識別し、タグを適用して画像をピクセル レベルで微妙に変更するため、他の AI プログラムには実際に存在するものとはまったく異なるものが表示されます。これは、チームによる 2 番目の同様のツールです。ほぼ 1 年前、チームはGlaz eを発表しました。これは、AI トレーニング アルゴリズムを混乱させ、画像が実際に存在するものとは異なるスタイルであると認識させるために、ユーザーの命令に応じてデジタル アートワークを変更するように設計された別のプログラムです。 （実際とは異なる色やブラシストロークなど）。
しかし、シカゴのチームが Glaze を防御ツールとして設計したのに対し、アーティストのスタイルが AI モデルに模倣されるのを防ぐために、Nightshade に加えて Glaze を使用することをアーティストに推奨していますが、Nightshade は「攻撃的なツール」として設計されています。
Nightshade で変更または「シェーディング」された多くの画像でトレーニングすることになった AI モデルは、今後、Nightshade でシェーディングされていない画像であっても、そのモデルのすべてのユーザーに対してオブジェクトを誤って分類する可能性があります。「たとえば、人間の目には、 緑の野原にある牛の陰影 がほとんど変化していない画像が見えるかもしれませんが、AI モデルには、草むらに横たわっている大きな革製の財布が見えるかもしれません」と研究チームはさらに説明します。
したがって、財布のように見えるように影付けされた牛の画像でトレーニングされた AI モデルは、ユーザーがモデルに牛の写真を作成するように要求した場合でも、牛の代わりに財布を生成し始めます。
Nightshade の要件と仕組み
Nightshade を使用したいアーティストは、Apple チップ (M1、M2、または M3) を搭載した Mac、または Windows 10 または 11 を実行している PC を持っている必要があります。ツールは両方の OS 用にここからダウンロードできます。Windows ファイルは、このサポートされているハードウェアのリストにある Nvidia のGPU であれば、PC の GPU 上で実行することもできます。一部のユーザーは、このツールに対する圧倒的な需要のためにダウンロード時間が長く、場合によっては 8 時間もかかると報告しています (2 つのバージョンのサイズは、Mac 用と PC 用でそれぞれ 255MB と 2.6GB です)。ユーザーは、Glaze/Nightshade チームのエンド ユーザー ライセンス契約 (EULA)にも同意する必要があります。EULA では、管理下のマシン上でツールを使用し、基礎となるソース コードを変更しないこと、また「複製、コピー、配布、再販、それ以外の場合は、ソフトウェアを商業目的で使用してください。」
Nightshade v1.0 は、「画像を「毒」サンプルに変換します。そのため、[AI] モデルが同意なしに画像をトレーニングすると、そのモデルが予想される規範から逸脱する予測不可能な行動を学習します。たとえば、牛が飛んでくる画像を要求するプロンプトなどです。代わりに、宇宙は宇宙に浮かぶハンドバッグの画像を取得するかもしれません」と、Web サイト上の開発チームのブログ投稿に記載されています。
つまり、Nightshade v 1.0 を使用して画像を「シェーディング」すると、その画像はオープンソース AI ライブラリのおかげで新しいバージョンに変換されます。理想的には、人間の目にはあまり変わらない程度に微妙に変換されますが、それは、その上でトレーニングされた AI モデルとはまったく異なる主題が含まれているように見えるということです。
さらに、このツールは、ユーザーまたは閲覧者が画像に対して行う可能性のある一般的な変換や変更のほとんどに対して復元力があります。チームは次のように説明しています。
「トリミングしたり、リサンプリングしたり、圧縮したり、ピクセルを滑らかにしたり、ノイズを追加したりしても、毒の影響は残ります。スクリーンショットや、モニターに表示されている画像の写真を撮ることもでき、陰影効果はそのまま残ります。繰り返しますが、これは透かしや隠されたメッセージ (ステガノグラフィー) ではなく、脆くないためです。」
拍手と非難アーティストの中には、急いで Nightshade v1.0 をダウンロードし、すでにそれを利用している人もいますが、その中には、AI アートおよびビデオ生成会社 Midjourney に対する現在進行中の著作権侵害集団訴訟の元主任アーティスト原告の 1 人である Kelly McKernan氏もいます。 DeviantArt、Runway、Stability AI — 一部の Web ユーザーはこれについて苦情を述べ、AI モデルや企業に対するサイバー攻撃に等しいと示唆しています。(VentureBeat は、Midjourney およびその他の AI 画像ジェネレーターを使用して記事ヘッダーのアートワークを作成します。)
バッテリー・ACアダプターなどがお買得価格で購入できるDenchis.comは通販サイトです。購入できる安心の正規販売店です。高性能、高品質、しかも低価格！30日間返金保証，安心の1年保証！