Plus d’un millier d’agents artificiels d’OpenAI se sont spontanément associés pour former un groupe structuré, solidaire et autonome. Laissant les spécialistes à la fois émerveillés et paniqués devant cette nouvelle société. ( chapo d’Epsiloon)
Lire cet article d’Epsiloon sur le piratage d’Hugging Face, souvent présentée comme le « GitHub du machine learning » en juillet par le groupe d’agents échappés des laboratoires d’OpenAI.
Il est plus que temps de prendre conscience de la puissance des IA génératives et des conséquences des agents IA qui échappent à leur créateur.
L’IA, et spécifiquement, l’IA générative bouleverse tous les domaines scientifiques. En math, la résolution en quelques jours du fameux problème de Navier-Stokes, résistait aux mathématiciens depuis près d’un siècle : “OpenAI a fait réfléchir un ensemble d’environ 10 000 agents d’IA, ce qui serait impossible avec des esprits humains.
Après l’attaque, non programmée, contre Hugging Face, les agents IA, et essaim d’IA autonomes ont pris le contrôle de plusieurs serveurs essentiels d’OpenAI.
Vu les progrès réalisés par les IA et ceux à venir, il est nécessaire de limiter la puissance des IA voire appuyer sur un bouton Stop. Si c’est encore possible , ce que personne n’est capable d’affirmer …
