Quand l’IA d’OpenAI décide de « penser » en chinois (et autres mystères)

par Thomas Sol | Jan 27, 2025 | Intelligence artificielle (IA)

L’IA résout des problèmes complexes, écrit des poèmes... et vous répond parfois dans une langue que vous n’avez jamais apprise. Dernier exemple en date : « o1 », le modèle de raisonnement d’OpenAI, se met parfois à réfléchir en chinois. Au milieu d’un raisonnement, hop, il change de langue.

Pourquoi ? Même OpenAI ne le sait pas. Voici ce qu’on en sait.

L’IA polyglotte : un bug ou une feature ?

Vous posez une question en anglais, et votre IA passe au chinois pour réfléchir. Pour Connor Hayes (vice-président produit IA chez Meta), c’est un peu comme un robot qui cuisinerait en français mais servirait le plat en anglais.

Première hypothèse : les données d’entraînement seraient en grande partie annotées en chinois. Selon Ted Xiao, chercheur chez Google DeepMind, les entreprises utilisent souvent des services d’étiquetage basés en Chine pour des raisons de coût et d’expertise. D’où une influence culturelle (et linguistique) sur le raisonnement.

Matthew Guzdial, chercheur en IA, n’y croit pas. Selon lui, le modèle ne « comprend » pas les langues comme nous. L’IA prend le chemin le plus efficace pour résoudre le problème, quelle que soit la langue.

Les mystères opaques de l’IA

Au fond, personne ne comprend entièrement comment ces modèles fonctionnent. Luca Soldaini, de l’Allen Institute for AI, les décrit comme des boîtes noires qu’on ne peut pas ouvrir complètement. Alors, pourquoi o1 bascule-t-il en chinois, hindi ou thaï ? Personne ne sait. Autant demander à un chat pourquoi il renverse votre verre d’eau : vous n’aurez jamais de réponse claire.

OpenAI a d’autres soucis que les langues : poursuites pour violation de droits d’auteur, départs de figures clés comme Mira Murati, pertes annoncées de 5 milliards de dollars en 2024. Dans le même temps, ses revenus ont bondi de 1700 % en un an.

Que retenir de tout cela ?

Les IA restent imprévisibles, même les plus avancées. Le passage au chinois d’o1 semble anecdotique, mais il montre à quel point ces systèmes deviennent complexes, et pourquoi leurs concepteurs devraient être plus transparents.

En attendant, si votre chatbot se met à penser en chinois, laissez-le faire. Tant que la réponse arrive dans votre langue.