Q* de OpenAI es inquietante por un motivo diferente

Por

Bloomberg Opinión — Cuando se publicó la semana pasada la noticia de que OpenAI había estado trabajando en un nuevo modelo de IA llamado Q* (pronunciado “q star”), algunos sugirieron que se trataba de un gran paso hacia una inteligencia artificial potente, similar a la humana, que algún día podría volverse rebelde. Lo que es más cierto: La expectación en torno a Q* ha aumentado el entusiasmo por las proezas de ingeniería de la empresa, justo cuando se está recuperando de un golpe de estado fallido de su junta directiva. Los máximo de entusiasmo de la IA sobre los hitos ya han llevado al público de paseo muchas veces. La verdadera advertencia que debemos extraer de Q* es la dirección en la que progresan estos sistemas. A medida que mejoren en su razonamiento, será más tentador dar mayores responsabilidades a estas herramientas. Más que cualquier preocupación por la aniquilación de la IA, eso por sí solo debería hacernos reflexionar.

OpenAI no ha confirmado qué es Q*, y su nuevo CEO, Sam Altman, sólo lo ha descrito como una “desafortunada filtración”, pero en los medios de comunicación suena parecido a otro sistema en el que está trabajando Google, de Alphabet Inc. (GOOGL) Gemini es el nuevo gran competidor de ChatGPT, que no sólo generará texto e imágenes, sino que también destacará en planificación y estrategia, según el CEO de Google DeepMind, Demis Hassabis. DeepMind creó un famoso modelo de IA que venció a campeones de Go, y Gemini utilizará algunas de esas técnicas para resolver problemas.

Con Q*, OpenAI parece estar empujando a ChatGPT en una dirección similar, ya que, según varios informes, Q* puede realizar matemáticas de primaria. Puede parecer poco impresionante, pero combinar capacidades matemáticas con un software que también puede escribir texto y crear imágenes es algo único, y ChatGPT hasta ahora ha tenido problemas para hacer ecuaciones correctamente. Si pudiera, eso podría correlacionarse con una mejora en la resolución de problemas. Las matemáticas requieren comprender un problema y averiguar los pasos para resolverlo antes de realizar todos los cálculos correctos. Ese proceso está un poco más cerca de cómo pensamos y resolvemos los problemas los humanos.

Las primeras versiones de Géminis ya pueden ejecutar algunas tareas que requieren planificación, según alguien con acceso a la próxima herramienta de Google que no quiso ser nombrado debido a compromisos de confidencialidad.

Es difícil encontrar ejemplos de tareas que pueda realizar Géminis, pero la persona que utilizó el modelo dijo que se le podría pedir, por ejemplo, que realizara un estudio de mercado para un nuevo producto. Entonces podría explorar la web y volver con análisis e ideas adicionales. “Con ChatGPT, todavía tienes que coger un poco más de la mano al modelo”, añadieron.

A medida que más sistemas de IA sean capaces de hacer cosas de forma independiente, como llevar a cabo investigaciones, es probable que sus operadores humanos pasen de encomendarles tareas aisladas a darles una responsabilidad más amplia sobre varias tareas. Piensa en la coordinación con colegas por correo electrónico o en la gestión de análisis. Eso sonará tentador para cualquier empresa deseosa de ser más eficiente, pero esas herramientas también prometen desplazar puestos de trabajo, sobre todo puestos de nivel inicial que facilitan a los jóvenes reclutas el acceso a un nuevo campo.

Las empresas que subcontratan más a la IA también corren el riesgo de incorporar estereotipos raciales y de género a sus sistemas de trabajo. La mayoría de las empresas deben elegir entre un puñado de los llamados modelos de base de OpenAI, Google o Amazon.com Inc. (AMZN) para mejorar su infraestructura, y se ha denunciado que tales modelos no sólo muestran un arraigado sesgo hacia las personas con discapacidad y las minorías raciales, sino también por ser altamente inescrutables. OpenAI y, por extensión, Microsoft Corp. se han negado a revelar detalles que los investigadores independientes necesitan para determinar el grado de parcialidad de sus modelos lingüísticos.

Forrester Research Inc. ha pronosticado que cerca de 7 millones de trabajadores del conocimiento estadounidenses utilizarán Microsoft 365 Copilot en 2024. Mientras tanto, Google está desplegando su propio competidor, Duet AI, a los más de 3.000 millones de usuarios de su plataforma empresarial Workspace.

A medida que estas herramientas se impregnen de más habilidades de planificación y estrategia, hablaremos mucho más de darles “responsabilidad” en lugar de “tareas”. Pero debemos hacerlo despacio y con cuidado. Su disrupción anticipada podría volverse en nuestra contra.

Esta nota no refleja necesariamente la opinión del consejo editorial o de Bloomberg LP y sus propietarios.