📄

AIの「エラー」がひらめきを生む:不完全性をデザイン発想の味方に

Entry

AIの「エラー」がひらめきを生む:不完全性をデザイン発想の味方に

Simple Title

Liu, Fang, Junyan Lv, Shenglan Cui, Zhilong Luan, Kui Wu, and Tongqing Zhou. 2024. “Smart ‘Error’! Exploring Imperfect AI to Support Creative Ideation.” Proceedings of the ACM on Human-Computer Interaction 8 (CSCW1): 1–28.

Description

画像認識モデルで誤ってラベル付けされた画像を提示することで、デザイナーに新しいインスピレーションを与えられることを検証

Type
Paper
Year

@June 18, 2024 9:30 PM (GMT+2)

Posted at
June 5, 2025 6:03 AM (GMT+9)
Tags
theorydesign
image

Overview

NotebookLMによるまとめ (誤認識をなぜか「まにんしき」と発音してますね)

  • AIモデルの間違いがどのようにデザイナーの創造性を刺激するかを検証した論文
  • 特に画像認識モデルYOLOv4を使って、画像につけられた誤ったラベルに着目。実際に写真に写っているものとAIが誤ってつけたラベルのミスマッチが、デザイナーに与えるインスピレーションを検証

Motivation

  • AIの誤りは避けられない、だったら有効に使おう!
  • AIが出してくるアイデアにAIを使う側はどうしても引っ張られてしまう。AIの利用がアイデアの「固着」fixationを生む可能性がある。AIのエラーはむしろこの固着を打破する突破口になるのではないか。
  • 人とAIの競争関係を考える上でのヒントを探る

Method

本論文の手法 全体像
本論文の手法 全体像

手法としてはこの通り

  •  オブジェクト検出モデル(YOLOv4)を使ってAIが誤認識した画像の「エラー」データセットを収集
  • 8人のデザイナーに「誤ったラベル付け」されたオブジェクトから得られるインスピレーションについてコメントを求める
  • コメントをまとめて、AI「エラー」からのインスピレーションを6つの要素次元にまとめる
    • これらは「ターゲット選択」(Part, Whole)と「視覚的連想」(Color, Outline, Texture, Structure)に分類されました910
  • 20人のデザイナーを対象に、比較発想実験を行う
    • オリジナル画像のみ(No-Mislabeled)と「誤ったラベル付け」された画像(Mislabeled)の両方を使ってアイデアを出してもらう
  • アンケートとインタビューを用いて、AI「エラー」とデザイナーのインスピレーションの関係を探る
  • アイデアの質をNovelty(新規性)とUsefulness(有用性)という2つの指標で評価

Results

アイデアの質を評価した結果 M: 平均 SD: 標準偏差
アイデアの質を評価した結果 M: 平均 SD: 標準偏差
  • アイデアの質は Novelty(新規性)とUsefulness(有用性)ともに AIのエラーを見せたグループの方が高い結果に
  • 「誤ったラベル付け」と正解との関連性/類似性レベルが高い時に良い結果が得られた
    • つまりランダムな間違いではダメ (当たり前だけど

特にAIエラーによって引き起こされる創造性の形態として 以下の四つが挙げられた

  • Combination - 誤ラベル付け(間違い)を元のオブジェクト(正解)の特徴に組み合わせる
  • Exploration -間違いに基づいて、元のオブジェクトの何らかの特徴を探求し、その形態を変更
  • Transformation - 間違いと元のオブジェクトを使って新しい概念を生み出す
  • Reinterpretation - 間違いに基づいて元のオブジェクトの特徴を再解釈する
image
  • AIが 「主従関係」の「従」ではなく、(たまに変なこと/面白いことを言う)「パートナー」になるべき未来を示唆

Further Thoughts

論文を読んで考えた個人的感想

  • 自分がずっと考えてきたことがきちんと検証されている!!
  • 音楽領域でも同じようなことがあり得るか

Links

  • 生成AIとアイデアへの固着に関してはこちらの論文が詳しい