Opinion : テクノロジーによるお節介 (2024/2/26) 　 先日、「スマホのカメラ機能が、撮った写真を勝手に補正する」という話が話題になっていた。それに対して「前からやってる」「補正ではなくて補完ではないか」などとコメントが出てきて、百家争鳴状態。というのは大袈裟か。 前から、「スマホでこんなにきれいな写真が撮れる。もう大きなカメラは要らない」みたいなことをドヤ顔でいう人がチョイチョイいるけれども、その「きれいに撮れる」あるいは「うっとり」の正体が自動補完・補正機能によるものだとしたら、笑いどころ。いや、笑えない。 そもそも、あのちっこいレンズとイメージセンサーで、大きなレンズとイメージセンサーが吐き出すのと同じ内容の画を得られる、と思う方がどうかしているんじゃないだろうか。いくら補正で頑張っても物理法則は越えられない。 上の件について、「写実性の観点から見て問題が」という意見もある。ただ、すでに画像編集ツールがいろいろ出回った時点で、写真は写真でなくなっている、ともいえる。本物とは似ても似つかぬレベルまでコントラストや彩度をいじくり倒した写真は、現にたくさん出回っているし。 ただ、それはあくまで加工した本人の意思に基づいて、加工した本人の好みに合わせて行われているもの。そうやって加工した結果が「素の状態」だと思い込んで、現場に行ってガッカリする人が出るのは、また別の問題。 となると、冒頭で挙げた「スマホによるお節介加工」は、「加工の存在が認識されておらず、出てきた画が素の状態だ」と思ってしまいかねないところに、問題の本質があるのかなと。そんなことを考えていた。 そして出てきた「AI による画像の生成・加工」。「AI でこんなことができます」「AI でここまでできます」というデモンストレーションとしては面白いけれども、それはあくまで、利用する側が「これにはAI が介入していますよ」という前提を承知した上でのこと。 では、それとは知らずに「AI が介入して加工した画」を見せられることになったら ? 従来なら、固定的なロジックが仕込んであって、それに基づいて加工するのが普通だから、「ああ、こういう加工が入っているのか」と理解する糸口はあるかも知れない。何かしらの固定的なパターンめいたものがあれば。 では、AI が絡んできたらどうなるか。それも、日々、データ セットを学習しながら加工の内容を変えてくるような仕掛けになったら。 前に軍研で、「AI に食わせたデータ セットの内容に偏りがあったせいで、画像による敵味方識別が大間違いを引き起こした」話を書いた。それと同じように、食わせるデータ セット次第でアウトプットが違ってくるようなことが起きて、かつ、受け手がそのことを正しく理解していなかったらどうなるか。 となると、DoD の「AI 五原則」で説明責任に言及しているのも宜なるかな。常にちゃんと手なずけておいて、説明責任を果たせるような形で AI を使え。AI がおかしなことをしたときには、人間がストッパーになれるようにせよ。と、そういう話が重要になってくる。 以前から、IT 業界・テック業界には「ほーらほらほら、こっちの方が便利だろー。素直に従うが良いぞ」みたいなお節介の押し売り傾向があるけれども、それが AI と悪魔合体したら、いったい、どんなことになっちゃうんだろうね。と、少し心配になっている。 えてして、悪知恵が働く連中の方が新しい技術や手法に適応するのが早くて、すぐに新手を繰り出してくるものであるし。さまざまな分野で AI の利用が加速すると、悪用の事例だってどんどん増える。 以前にネタにした「おすすめ」機能にしても、ひょっとしたらエコー チェンバー生成マシンになる危険性を内包しているかも知れないし。 本来、技術は目的ではなくて手段であり、普通のユーザーからすればブラックボックスであって構わないはず。でも、新しい技術やサービスが要らぬお節介を焼いたり、安全・安定を脅かす原因になったりすれば、そうもいっていられない。物書き業の端くれとしては、そういうことも考えていかなければならないのだろうなと。

Contents HOME Works Diary Defence News Opinion About

| 記事一覧に戻る | HOME に戻る |