📄

ちょっとしたノイズを加えると…あら不思議 – Adversarial examples in the physical world

Entry
ちょっとしたノイズを加えると…あら不思議 – Adversarial examples in the physical world
Simple Title
Domenech, Arnau Pons, and Hartmut Ruhl. "An implicit ODE-based numerical solver for the simulation of the Heisenberg-Euler equations in 3+ 1 dimensions." arXiv preprint arXiv:1607.00253 (2016).
Type
Paper
Posted at
March 15, 2017
Tags
image
Year
2016

image

Abstract

With the advent of ultra-high power lasers the nonlinear nature of the vacuum of quantum electrodynamics (QED) can be probed. Due to the highly nonlinear structure of the underlying equations new numerical algorithms are required. A numerical scheme for simulating the nonlinear optical effects of the QED vacuum in up to 3 spatial dimensions plus time is derived. Its properties are discussed. The validity of the numerical approach is verified with the help of known analytic results. The algorithm is used to explore nonlinear all optical effects of the nonlinear vacuum for which analytic methods are inefficient or impossible.

Motivation

うまくノイズを設計することで、元画像に人にはほとんど気づかれないほどのノイズを加えるだけで、全く別のものとしてCNNに認識されてしまうことが以前から指摘されている.

Results

デモ

Further Thoughts

この論文とデモは、こうしたAdversarial(敵対的)なサンプルが、コンピュータ内だけでなく実世界でも起きることを実証している. 今後、実社会のなかでAIによる画像認識がさまざまな場面で使われていくことになるだろうことを考えると、この研究の示唆は大きい.

たとえば、SNS上のプライバシーを守るために、友人の目にはわからないくらいのノイズで画像認識のエンジンをあざむくフィルタがあっても面白い. 今度こうしたいたちごっこが生まれそう.

Links