Veinticinco ganadores de la Medalla Fields cuestionan la forma en que los laboratorios de IA presentan soluciones matemáticas y advierten sobre riesgos para la atribución, la verificación y la investigación abierta.
La carrera de los laboratorios de inteligencia artificial OpenAI, por resolver problemas matemáticos de máxima dificultad está provocando una reacción inédita dentro de la comunidad científica.
Veinticinco matemáticos galardonados con la Medalla Fields, considerada la distinción más importante de las matemáticas, firmaron una carta abierta en la que cuestionan las prácticas de los laboratorios de IA cuando anuncian soluciones a problemas de investigación todavía abiertos.
El conflicto se intensificó esta semana después de que Tristan Buckmaster, profesor de la Universidad de Nueva York, acusara a OpenAI de presionarlo para no reconocer públicamente el trabajo de un investigador vinculado con Anthropic que había resuelto un problema matemático relevante.
Buckmaster también planteó dudas sobre si el trabajo realizado con Codex pudo haber contribuido a que OpenAI desarrollara posteriormente su propia demostración durante una extensa sesión de inferencia. OpenAI no ha confirmado públicamente esa interpretación.
El problema no termina cuando aparece una demostración
Para los matemáticos que firmaron la carta, resolver un problema es solamente una parte del proceso científico. Una demostración debe poder ser examinada, comprendida, comunicada, relacionada con trabajos anteriores e incorporada posteriormente al conocimiento acumulado de la disciplina.
Ese proceso se vuelve especialmente complejo cuando un laboratorio de IA presenta rápidamente una solución generada por modelos avanzados. Los investigadores advierten que el incentivo competitivo puede favorecer anuncios prematuros, antes de que exista tiempo suficiente para verificar completamente la prueba, identificar métodos novedosos, reconocer contribuciones anteriores y establecer cómo encaja el resultado dentro de la literatura matemática.
La cuestión tiene una dimensión técnica fundamental. Una demostración que una máquina puede generar pero que los especialistas todavía no pueden verificar no equivale automáticamente a conocimiento matemático consolidado. La validación independiente continúa siendo necesaria para determinar si existen errores, supuestos ocultos o conexiones con trabajos precedentes que no fueron reconocidas.
La investigación abierta entra en zona de presión
El segundo riesgo señalado por los matemáticos afecta a la cultura de investigación abierta. Los laboratorios de IA de frontera disponen de recursos computacionales que pueden utilizarse para explorar rápidamente una vía de investigación cuando detectan que podría conducir a un resultado importante.
La diferencia de escala económica puede modificar los incentivos tradicionales. Un investigador o grupo académico puede trabajar durante años sobre un problema, mientras que un laboratorio tecnológico puede destinar grandes cantidades de capacidad computacional para intentar encontrar una solución antes de que el trabajo académico haya sido publicado o completamente desarrollado.
Esto puede favorecer el secretismo. Si compartir una idea preliminar permite que otro actor con enormes recursos computacionales produzca rápidamente una demostración y reclame protagonismo, los investigadores tendrán menos incentivos para divulgar métodos, conjeturas o avances intermedios.
La OpenAI también cambia qué significa ser autor
La controversia matemática plantea además un problema que ya apareció en programación, ingeniería y otras profesiones intelectuales: determinar qué parte del resultado pertenece a la herramienta y cuál corresponde al investigador que formuló el problema, diseñó la estrategia, interpretó los resultados y verificó la solución.
La Declaración de Leiden, publicada en junio por un grupo de matemáticos, ya había abordado estas transformaciones y planteado recomendaciones para investigadores, instituciones y responsables políticos. La nueva carta lleva el debate a un punto más concreto: la comunidad científica necesita mecanismos para preservar la atribución y la trazabilidad cuando una IA participa activamente en la generación de nuevos resultados.
Esto no significa que los matemáticos rechacen la utilización de inteligencia artificial. Una capacidad de razonamiento matemático avanzada podría convertirse en una herramienta extraordinaria para descubrir nuevas estructuras, formular conjeturas y resolver problemas que actualmente permanecen fuera del alcance humano.
El precedente puede extenderse a toda la ciencia
La disputa entre OpenAI y parte de la comunidad matemática funciona como un laboratorio temprano de un problema que probablemente aparecerá en otras disciplinas.
Cuando una IA pueda generar hipótesis, diseños, demostraciones, algoritmos o resultados experimentales con mayor rapidez que los investigadores humanos, la validación, atribución y transmisión del conocimiento adquirirán tanta importancia como su generación.
Para la ingeniería, las implicaciones son especialmente relevantes. Un modelo podría proponer una geometría, un algoritmo de control, una solución estructural o una modificación de diseño en segundos.
Eso no significa que la propuesta pueda incorporarse automáticamente a un sistema crítico. Será necesario conocer su origen, verificar sus supuestos, reproducir los resultados y determinar quién asumió la responsabilidad técnica de aceptarla.
La experiencia matemática anticipa así una posible regla para la ciencia asistida por IA: la capacidad de producir una solución no elimina la obligación de demostrar por qué esa solución es correcta.
FUENTE: https://techcrunch.com/
