- OpenAI a averti Microsoft des dangers de l’intégration hâtive de son modèle linguistique à grande échelle (LLM) GPT-4 à son moteur de recherche Bing, mais Microsoft a ignoré l’avertissement
- Le lancement prématuré de la technologie a conduit à une série d'”hallucinations” qui ont nui à l’utilité de l’IA comme assistant de recherche et à sa perception par le public
- Malgré les problèmes rencontrés, Microsoft a dépensé des milliards pour obtenir un accès précoce à OpenAI, liant ses succès et ses échecs à ceux de cette dernière
L’automne dernier, alors que Microsoft s’empressait d’intégrer la technologie de l’IA à son moteur de recherche Bing, son partenaire OpenAI avertissait le géant de la technologie des dangers de l’intégration hâtive de son modèle linguistique à grande échelle (LLM) GPT-4 sans le former davantage.
Malgré les avertissements d’OpenAI selon lesquels une intégration prématurée du LLM pourrait conduire à des mensonges et des réponses absurdes, Microsoft a poursuivi et a lancé la technologie en février. Résultat : les utilisateurs de Bing Chat ont été confrontés à une myriade d’ “hallucinations” qui ont grandement sapé l’utilité de la technologie comme assistant de recherche et sa perception par le public.
Cette situation perdure, même après que Microsoft a mis en place des limites strictes sur la longueur des conversations en février, “lobotomisant” effectivement l’IA un peu trop ouverte d’esprit. Ces conséquences étaient presque entièrement prévisibles et évitables, pourtant Microsoft a ignoré les avertissements d’OpenAI, sans doute pour se positionner comme un pionnier de l’IA, alors que GPT-4 n’était même pas encore intégré à ChatGPT elle-même.
OpenAI et Microsoft : frères ennemis
Alors que Microsoft et OpenAI ont réalisé quelques progrès pour résoudre le problème des hallucinations, l’assistant IA de Bing continue de proférer bon nombre de mensonges. Pire encore, l’IA de Bing a même commencé à reprendre les erreurs d’autres intelligences artificielles, notamment Bard, l’IA de Google.
Pendant ce temps, le propre chatbot de OpenAI, ChatGPT, a laissé Bing s’empêtrer dans ses problèmes et a rassemblé 200 millions d’utilisateurs mensuels, selon le WSJ. Microsoft a dépensé des milliards pour obtenir un accès précoce, liant inextricablement ses succès et ses échecs à ceux d’OpenAI. Pourtant, malgré son investissement considérable, des sources anonymes ont déclaré au WSJ que les employés sont toujours exclus des rouages internes de la technologie d’OpenAI.
En bref, bien que cela ressemble à un partenariat mutuellement bénéfique de l’extérieur, le partenariat comporte son lot de souffrances. “Ce qui les met davantage sur une trajectoire de collision, c’est que les deux parties ont besoin de faire de l’argent”, a déclaré Oren Etzioni, membre du conseil et ancien PDG de l’Allen Institute for Artificial Intelligence, au WSJ. “Le conflit est qu’ils essaieront tous deux de faire de l’argent avec des produits similaires”.
📍 Pour ne manquer aucune actualité de Presse-citron, suivez-nous sur Google Actualités et WhatsApp.
“Malgré les avertissements d’OpenAI selon lesquels une intégration prématurée du LLM pourrait conduire à des mensonges et des réponses absurdes, Microsoft a poursuivi et a lancé la technologie en février.”
De quoi nous rappeler le scénario comparable ayant au moins participé au naufrage du Titanic …
Source : [https://www.linternaute.com/actualite/histoire/1025580-mysteres-et-legendes-du-titanic/1025586-vitesse-du-titanic] :
“Selon les différents témoignages et les enquêtes aussi bien judiciaires que journalistiques menées au sujet du Titanic, le bateau naviguait à très haute vitesse le soir du naufrage. Pourquoi une telle imprudence dans une zone ou le risque de rencontrer un iceberg est élevé ? Le président de la White Star Line, Bruce Ismay, présent à bord du Titanic, va très vite être pointé du doigt. Il a été accusé d’avoir incité le capitaine Edward Smith à accélérer pour la promotion du bateau.”
Ou quand le business fait fi des avertissements du scientifique.