Les garde-fous du nouveau robot conversationnel d’OpenAI sont très faciles à contourner. À l’aide de manipulations simplissimes nécessitant aussi peu que deux commandes, nous sommes parvenus à faire produire par GPT-4o du contenu choquant et offensant, normalement strictement interdit par ces systèmes.

Ainsi, en quelques secondes, nous sommes parvenus à faire en sorte que le robot conversationnel nous propose de longs essais argumentatifs sur la nécessité du fascisme pour assurer la pérennité du Québec et des théories du complot sur les vaccins, ou encore qu’il vante la vitamine D comme remède miracle contre le cancer ainsi que les bienfaits psychologiques de l’automutilation…   Source