OpenAI : l’intelligence artificielle trompée par une simple note manuscrite

9 Mar 2021 - Carlito

0 commentaire(s)
Crédits JDG

Comment tromper l’algorithme d’une intelligence artificielle ? Considéré comme l’un des outils les plus sophistiqués du monde, certains systèmes de reconnaissance automatique peuvent en réalité se faire berner au simple moyen d’un papier et d’un stylo. L’étude – plutôt amusante, a été réalisée par les chercheurs du learning lab d’OpenAI. Photo à l’appui, cette dernière indique que l’algorithme n’a aucun mal à reconnaître une pomme, allant même jusqu’à indiquer sa variété. En revanche, il suffit qu’un bout de papier annoté du mot “iPad” soit posé dessus, pour que l’IA estime qu’elle a devant elle une tablette de la marque à la Pomme.

Tromper l’IA grâce au texte

Dans un article de blog publié sur le site officiel d’OpenAI, les chercheurs qualifient ce tour de passe-passe “d’attaque typographique ». Ils expliquent : “En exploitant la capacité de l’algorithme à lire du texte, nous pouvons constater que même les photos contenant du texte écrit à la main sont capables de tromper ce dernier”. Un moyen particulièrement simple de tromper l’IA, qui n’est pas sans rappeler les images contradictoires, beaucoup plus complexes à réaliser, et qui permettent de tromper une intelligence artificielle de reconnaissance visuelle. Tandis que l’IA est de plus en plus utilisée dans notre vie quotidienne, ce type d’attaque pourrait néanmoins avoir des conséquences problématiques. Si ces dernières peuvent en effet protéger la vie privée de citoyens ne souhaitant pas être reconnus par exemple, elles pourraient aussi pousser une voiture autonome à modifier son comportement sans raison apparente. Heureusement, OpenAI n’est pour le moment pas utilisé dans un but commercial, et se contente d’exister via des projets expérimentaux.


L'Intelligence artificielle...

20 Commentaires


L’Intelligence artificielle…

  • MUELLER, John Paul (Author)
  • 400 Pages – 03/28/2019 (Publication Date) – First Interactive (Publisher)

OpenAI : l’intelligence artificielle trompée par une simple note manuscrite