Este lunes, cuando los dirigentes de OpenAI regresen a sus puestos de trabajo, habrá un asunto prioritario: decidir qué hacer con la directiva sin ánimo de lucro que casi les quita la vida.
De hecho, ya han iniciado la creación de una estructura de gobernanza que les orientará en un sentido más empresarial y, a pesar de que es una estupenda noticia para los inversionistas de OpenAI, contradice sus objetivos fundacionales de priorizar la humanidad a la vez que se crean máquinas superinteligentes. Los responsables de OpenAI están a tiempo de hacer algo en este sentido. Deberán reflexionar cuidadosamente sobre el resto de los miembros del consejo que incorporan, y no únicamente para parecer avanzados. Se necesitan mujeres, minorías y demás voces diversas para las cuales los modelos lingüísticos parcializados tienen más posibilidades de perjudicar, y que se pronuncien abiertamente sobre esos peligros.
Los sistemas de aprendizaje automatizado inescrutable han privado a las mujeres de sus posibilidades de trabajo y se preparan para consolidar los prejuicios en un aluvión de información generada por inteligencia artificial que se difunde por Internet. De nada sirve que las mujeres supongan alrededor de una tercera parte de las personas que desarrollan sistemas de inteligencia artificial actualmente, y únicamente el 12% en OpenAI, de acuerdo con un estudio sobre perfiles de LinkedIn realizado este año por Glass.ai. No sorprende que las mujeres se cuenten entre los detractores más contundentes de la inteligencia artificial.
Además, tienen más probabilidades de ser acalladas. Uno de los trabajos de investigación de mayor influencia en torno a los riesgos de los modelos lingüísticos extensos, el trabajo Stochastic Parrots de 2021, fue realizado por mujeres catedráticas y científicas especialistas en inteligencia artificial, y Google despidió de su plantilla a dos de ellas, Timnit Gebru y Margaret Mitchell.
Y de los cuatro miembros de la junta directiva de OpenAI que votaron para destituir a Sam Altman como CEO la semana pasada, dos que terminaron siendo despedidos por la compañía fueron la académica Helen Toner y la empresaria de robótica Tasha McCauley. El retroceso resultante en las redes sociales se ha centrado en gran medida en ambas mujeres, mientras que sus compañeros varones amotinados (el cofundador y científico jefe de OpenAI, Ilya Sutskever, y el CEO de Quora Inc., Adam D’Angelo), emergieron con sus reputaciones y posiciones prácticamente intactas. (Sutskever también está fuera del tablero ahora).
Semanas antes de que votara a favor de despedir a Altman, el nombre de Toner apareció en un artículo de investigación que acusaba a OpenAI de “tomar atajos frenéticos” mientras se apresuraba a lanzar ChatGPT el año pasado. Altman, enojado, supuestamente intentó eliminar a Toner del tablero. Toner y los demás directores hicieron exactamente aquello para lo que Altman lo diseñó. Incluso había elogiado esa capacidad. “La junta puede despedirme”, dijo en la Cumbre Tecnológica de Bloomberg a principios de este año. “Creo que eso es importante”.
Es cierto que la junta fue descuidada en su ejecución, y sus miembros probablemente fueron víctimas del pensamiento grupal mientras se quejaban de Altman en una burbuja limitada. Deberían haber comunicado más claramente sus preocupaciones, que todavía están envueltas en un velo de misterio .
Aun así, OpenAI debe mantenerse fiel a sus principios fundacionales y nombrar miembros de la junta directiva que no se limiten a marcar una casilla sino que comprendan los efectos secundarios de la IA lo suficientemente bien como para retroceder cuando sea necesario. Personas como Gebru y Mitchell serían un buen comienzo, al igual que Joy Buolamwini, Fei-Fei Li, Melanie Mitchell, Sasha Luccioni, Kate Crawford, Latanya Sweeney, Safiya Umoja Noble y Meredith Whittake , todas ellas distinguidas investigadoras y defensoras de la Campo de IA.
OpenAI ya ha considerado a varias mujeres como posibles directoras interinas, aunque algunas parecen un poco egoístas. Según Bloomberg News, Laurene Powell Jobs, la filántropa multimillonaria y viuda de Steve Jobs, y la ex CEO de Yahoo, Marissa Mayer, se plantearon como posibilidades, pero se consideraron demasiado cercanas a Altman. También se consideró a la exsecretaria de Estado estadounidense Condoleezza Rice, pero su nombre fue descartado.
Digo todo esto sabiendo muy bien que OpenAI encontrará una manera de neutralizar a su junta directiva sin fines de lucro para que los eventos de la semana pasada no vuelvan a suceder. Probablemente se parecerá mucho más a otras juntas tecnológicas que carecen de fuerza, como la extravagantemente inteligente Junta de Supervisión de Facebook , que no tiene poder real sobre sus algoritmos, o los órganos de revisión de inteligencia artificial de Google , que están repletos de su propio personal y ejecutivos.
La junta directiva de OpenAI fue única por su capacidad de despedir a Sam Altman. Pero incluso si esos días han terminado, las personas que construyen algunos de los software más transformadores de la historia no deben rodearse de hombres que dicen sí.
Esta semana, Elon Musk tuiteó que, con la civilización humana en juego, la nueva junta directiva de OpenAI necesitaba directores “que entiendan profundamente la IA y se enfrenten a Sam”. Dos mujeres hicieron precisamente eso y les mostraron la puerta. Las nuevas voces que se unan a la junta no deberían hacerlo para ser el próximo chivo expiatorio, sino para ejercer una supervisión adecuada de su trabajo. OpenAI debe elegir sabiamente.
Esta nota no refleja necesariamente la opinión del consejo editorial o de Bloomberg LP y sus propietarios.
Lea más en Bloomberg.com
