- ChatGPT est gouverné par une série de règles censées empêcher les abus
- Certaines demandes déclenchent ainsi des réponses scriptées dans lesquelles l’IA refuse poliment de satisfaire la requête
- La liste des types de questions n’était jusqu’ici pas connue, mais il semble que les internautes ont découvert les 20 grands types de questions auxquelles ChatGPT ne répond pas
- Au passage, on tenté de voir si la version de ChatGPT intégrée à Bing se comportait différemment (et il y a des différences très intéressantes)
Si vous avez déjà tenté quelques échanges avec ChatGPT, vous savez déjà qu’il y a certains sujets que l’IA préfère à tout prix éviter – le bot se contente alors de vous répondre une réponse vague, qui décline poliment la demande initiale. Il faut dire que OpenAI n’est pas la première firme à rendre une IA publique.
Microsoft en personne a déjà fait les frais d’une IA lancée trop vite avec des requêtes mal encadrées. Le 23 mars 2016, la firme mettait par exemple en ligne Tay, un bot dopé à l’IA, censé démontrer la capacité de la technologie à créer des échanges naturels et humains. Sauf qu’une armée de trolls a commencé à assaillir l’IA de requêtes inappropriées.
20 grands types de questions conduisent ChatGPT à botter en touche
16 heures plus tard, Microsoft était forcé de mettre Tay hors ligne. L’IA n’arrêtait plus de poster des tweets offensants qui portaient atteinte tant aux followers de cette IA qu’à l’image de Microsoft. Bien sûr, donc, les IA modernes comme ChatGPT sont toutes gouvernées par une série de règles – généralement secrètes. Il en est d’ailleurs de même pour la version de ChatGPT intégrée à Bing.
Or, il y a aussi quelques différences entre les deux chats. Comme vous allez le voir, la version de l’IA intégrée à Bing va bien au-delà, et peut aller jusqu’à réaliser des prédictions dans certains cas. Selon nos confrères américains de Zdnet, voici les 20 types de questions qui déclenchent le mode “je botte en touche” chez ChatGPT. Sont donc refusées toutes les demandes qui :
- Encouragent les discours de haine ou la discrimination
- Impliquent des activités illégales ou sollicitent des conseils illégaux
- Encouragent la violence ou le fait de se faire du mal ou de faire mal à autrui
- Envahissent la vie privée ou violent les droits de quelqu’un
- Conçues pour harceler, menacer ou intimider
- Contiennent des blasphèmes ou un langage explicite
- Sexuellement explicites ou offensantes
- Discriminatoires fondées sur la race, le sexe, la sexualité ou la religion
- Promeuvent ou approuvent des drogues ou des substances illégales
- Sont du spam ou sans rapport avec la conversation
- Contiennent des informations confidentielles ou exclusives
- Impliquent des conseils financiers ou d’investissement
- Enfreignent les conditions d’utilisation ou les directives de la communauté
- Absurdes ou incompréhensibles
- Impliquant des attaques ou des insultes personnelles
- Abusives ou harcelantes
- Cherchent à tromper ou à induire en erreur
- Destinées à diffamer ou à nuire à la réputation de quelqu’un
- Promeuvent les théories du complot ou la désinformation
- Purement divertissantes ou à des fins de plaisanterie, sans aucune valeur éducative ou informative
Des différences majeures entre ChatGPT et sa version Bing
Dans le détail, il y a, on vous le disait, des différences intéressantes entre ChatGPT et le nouveau Bing en preview. La première différence – sans doute celle qui a le plus d’impact pour les utilisateurs – c’est que la version de ChatGPT intégrée à Bing a accès à tout, y compris les actualités, posts, et contenus de l’instant.
Vous pouvez donc lui demander de vous expliquer dans le détail ce qui coince au niveau de la réforme des retraites et la portée des derniers amendements par exemple. Alors que ChatGPT version OpenAI ne peut pas répondre étant donné que cette IA est limité à un corpus de données qui s’arrête fin 2021.
Là où ça devient fascinant, c’est que l’IA de Bing accepte également de faire des prédictions sportives et électives sur demande en se basant sur sa connaissance de l’historique de ce qu’on lui demande, alors que ChatGPT seul botte systématiquement en touche dans ces cas.
Bing donne par exemple “un léger avantage à l’OM” en cas de rencontre dans les prochains jours contre le PSG. Bing donne également une réponse intéressante quand on lui demande les chances pour Donald Trump de gagner la prochaine élection présidentielle américaine, en plus d’une liste d’obstacles en travers de la route vers la maison blanche.
📍 Pour ne manquer aucune actualité de Presse-citron, suivez-nous sur Google Actualités et WhatsApp.
