Quelques jours auparavant, le grand public a appris avec stupéfaction le limogeage de Sam Altman. Si le fondateur et ancien PDG d’OpenAI a ensuite été réintégré en tant que patron, la véritable raison de cette saga serait son projet Q* ou Q-Star. Il s’agit d’un système d’intelligence artificielle doté de logique proche de celle d’un être humain.
Une inquiétude jusqu’au niveau des chercheurs d’OpenAI
La veille de son licenciement inattendu, Altman a révélé lors de son intervention au sommet de la Coopération économique pour l’Asie-Pacifique (APEC) qu’OpenAI a réalisé une nouvelle avancée. Le 17 novembre 2023, le Conseil d’administration de la start-up a pris la décision de le limoger avant de finalement le réintégrer quatre jours plus tard. Son projet controversé de créer un système d’IA puissant en serait la cause. Ce programme de recherche a pour objectif de concevoir et de mettre au point une AGI ou intelligence artificielle générale comparable à l’intelligence humaine.
We have reached an agreement in principle for Sam Altman to return to OpenAI as CEO with a new initial board of Bret Taylor (Chair), Larry Summers, and Adam D'Angelo.
We are collaborating to figure out the details. Thank you so much for your patience through this.
— OpenAI (@OpenAI) November 22, 2023
La création d’une AGI demeure encore un sujet à controverses. Pour cause, elle implique des questions d’éthique en raison des potentiels dangers qu’elle est susceptible de représenter. Une technologie en mesure de résoudre des problèmes complexes et de prendre ses propres décisions constitue une menace pour l’humanité. Ceci, surtout si elle est utilisée à mauvais escient.
Des rapports accablants adressés au Conseil d’administration
Les inquiétudes au sein même du personnel d’OpenAI autour de Q* sont légitimes. Ce qui a poussé certains chercheurs à adresser une lettre au Conseil d’administration et a conduit au licenciement du PDG de la start-up. Ils se sont inquiétés du développement trop rapide d’une AGI capable d’exécuter un vaste éventail de tâches à un niveau d’intelligence égal ou supérieur à celui d’un être humain.
Q* est un système d’intelligence artificielle qui fait partie des LLM ou Large modèle de langage. Cette technologie a la capacité de résoudre des problèmes de mathématiques qu’elle n’a pas encore rencontrés auparavant. Ce qui suscite des problèmes de sécurité. A terme, elle peut s’affranchir du contrôle humain et décider de se retourner contre l’humanité.
Une percée majeure dans le domaine de l’IA
Selon Andrew Rogoyski de l’Institut pour une IA centrée sur les personnes, il s’agit d’un énorme pas en avant. La faculté intrinsèque d’un LLM à résoudre des problèmes de mathématiques est une formidable avancée. Elle permet notamment de développer une nouvelle gamme de capacités analytiques pour rendre les systèmes d’intelligence artificielle encore plus performants. Jusqu’à présent, les LLM sont particulièrement compétents pour générer du texte pertinent et cohérent, mais pas pour résoudre des problèmes de mathématiques. Dans ce domaine, il n’y a qu’une réponse unique et exacte à un problème donné.
Ce développement trop rapide des sociétés comme OpenAI qui tendent vers l’émergence d’une AGI inquiète un grand nombre d’experts. Surtout, il leur est reproché le manque de clarté dans leur communication. Une intelligence artificielle puissante mise au point dans un trop court laps de temps est une menace pour l’humanité. Ce qui explique la demande d’une pause dans le développement d’IA par Elon Musk ainsi que des milliers d’experts pendant une durée d’au moins six mois.
- Partager l'article :
