Les mathématiciens souhaitent qu'OpenAI prouve plus clairement qu'il n'a pas utilisé de recherches inédites pour résoudre les équations de Navier-Stokes. Au centre du débat se trouve une étude distincte menée par le professeur Tristan Buckmaster de l’Université de New York et le chercheur anthropique Levent Alpöge. Le fait de savoir que les deux chercheurs utilisaient le Codex a soulevé de nouvelles questions sur la formation des modèles et les données des utilisateurs.
Selon The Verge, les mathématiciens exigent non seulement la similitude de la preuve finale, mais aussi que l'équipe OpenAI explique quelles informations elle a obtenues et à quelle date. Buckmaster affirme que des informations sur ses travaux ont été fournies à l'entreprise le 3 septembre. OpenAI, en revanche, déclare avoir lancé l'initiative Navier-Stokes le 1er septembre, à la suite d'une rumeur, et qu'elle n'a pas utilisé les invites ou les preuves des chercheurs pour diriger les agents.
Le livre blanc technique publié par OpenAI rapporte que l'entreprise a travaillé avec 10 000 agents pendant environ 88 heures et que la vérification Lean a pris 17 heures supplémentaires. Le système a utilisé environ 300 milliards de jetons de sortie tout en générant 4,9 millions de messages. L'entreprise affirme qu'elle n'a pas accédé aux données privées des chercheurs ; Cependant, cela n’exclut pas complètement la possibilité que des données d’utilisation anonymisées aient contribué au développement du modèle.
Cette distinction est au cœur du débat. Sans ouvrir directement une conversation particulière, un modèle peut être influencé par des modèles dérivés de processus de formation antérieurs. OpenAI explique que lors de l'utilisation de ChatGPT et de Codex individuels, il peut utiliser du contenu pour développer des modèles en fonction des paramètres. Les formations ne sont pas dispensées par défaut dans les produits métiers et API. Les chercheurs veulent savoir à l’avance et clairement à quelle catégorie appartiennent les résultats non publiés.
La controverse amplifie le problème de confiance dans la recherche soutenue par l'IA
Le problème de Navier-Stokes est l'un des sept problèmes du millénaire qui demandent si le mouvement des fluides tridimensionnels reste toujours fluide. OpenAI affirme que son système interne apporte la preuve qu'une singularité peut se produire dans un temps fini. Le processus d'attribution du Clay Mathematics Institute comporte des conditions supplémentaires, notamment un examen indépendant et l'acceptation du résultat publié. Par conséquent, l’annonce de l’entreprise ne signifie pas encore que le problème est officiellement résolu.
Les travaux de Buckmaster et Alpöge sont basés sur un résultat distinct sur le problème d'Euler forcé. OpenAI affirme également que la première rumeur concernait cette étude et que les deux équipes ont prouvé des résultats différents. Mais comme les deux axes de recherche touchent à des méthodes similaires de dynamique des fluides, la question du timing et de l’attribution reste importante. L’entreprise a ensuite rendu visible la question prioritaire en ajoutant des études pertinentes à son récit.
Si les outils d’IA accélèrent le rythme de l’expérimentation mathématique, ils nécessitent de nouvelles règles en matière de confidentialité des recherches. Lorsqu'un mathématicien donne des idées inédites à un assistant, celui-ci devrait être en mesure de voir facilement l'étendue du stockage, de l'analyse et de la formation de ces données. Les laboratoires doivent également divulguer la provenance des données de manière vérifiable lorsqu’ils sont en avance sur les chercheurs indépendants dotés d’une puissance de calcul massive. L’impact durable de cet événement peut être constaté dans le niveau de transparence qui sera établi pour la confiance scientifique plutôt que dans l’exactitude d’une seule preuve.
