Un ex miembro de la junta directiva de OpenAI explica por qué los directores tomaron la ahora infame decisión de despedir al director ejecutivo Sam Altman en noviembre pasado. Hablando en una entrevista arriba Espectáculo TED de IA En el podcast, la investigadora de IA Helen Toner acusó a Altman de mentir y obstruir la junta directiva de OpenAI, tomar represalias contra quienes la criticaron y crear un «ambiente tóxico».

«La junta (de OpenAI) es una junta sin fines de lucro que se creó con el propósito expreso de garantizar que la misión de bien público de la empresa sea primordial: estar primero por encima de las ganancias, los intereses de los inversores y otras cuestiones», dijo Toner. Espectáculo TED de IA Anfitrión Bilawal Sidhu. «Pero a lo largo de los años, Sam hizo que fuera realmente difícil para la junta directiva hacer eso, ya sabes, reteniendo información, tergiversando cosas que sucedieron en la empresa y, en algunos casos, mintiendo abiertamente a la junta».

OpenAI despidió a Altman el 17 de noviembre del año pasado, un movimiento impactante que sorprendió a muchos dentro y fuera de la empresa. Según Toner, la decisión no se tomó a la ligera tras semanas de intensas negociaciones. El secreto que lo rodea también fue intencionado, dijo.

«Estaba muy claro para todos nosotros que tan pronto como Sam pensara que podíamos hacer cualquier cosa que fuera en su contra, haría todo lo posible, haría todo lo que estuviera en su poder para socavar la junta, para detenernos, ya sabes, incluso para despedirlo, dijo Toner. «Así que fuimos muy cuidadosos, muy deliberados acerca de a quién le dijimos, que básicamente no era nadie más que nuestro equipo legal».

Desafortunadamente para Toner y el resto de la junta directiva de OpenAI, su cuidadosa planificación no produjo los resultados deseados. Si bien Altman fue inicialmente destituido, OpenAI rápidamente lo reintegró como director ejecutivo después de días de indignación, quejas e incertidumbre. La empresa instaló una junta casi completamente nueva, destituyendo a quienes intentaron derrocar a Altman.

¿Por qué la junta directiva de OpenAI despidió al director ejecutivo Sam Altman?

Toner no habló específicamente de las consecuencias de ese período tumultuoso en el podcast. Sin embargo, sí explicó por qué la junta directiva de OpenAI decidió dejar ir a Allman.

A principios de esta semana, Toner y su ex miembro de la junta directiva Tasha McCauley publicaron un artículo de opinión. Economista Afirmando que decidieron despedir a Altman debido a un «patrón de comportamiento crónico». Toner ahora ha proporcionado ejemplos del comportamiento observado en sus conversaciones con Sidhu, incluidas afirmaciones de que a la propia junta directiva de OpenAI no se le informó cuándo se lanzó ChatGPT, sino que solo se enteró a través de las redes sociales.

«Cuando ChatGPT salió en noviembre de 2022, la junta no fue informada con antelación. Nos enteramos de GPT en Twitter», alegó Toner. «Sam no le ha dicho a la junta que es propietario del fondo de inicio OpenAI, a pesar de que ha afirmado constantemente que es un miembro independiente de la junta sin ningún interés financiero en la empresa. Las salvaguardas que la empresa tenía, lo que significa que la junta tiene No tengo idea de qué tan bien están funcionando esas salvaguardas o qué cambiar. Era básicamente imposible saber qué sucedería».

Ver más:

OpenAI ha lanzado un nuevo equipo de seguridad interna bajo la dirección de Sam Altman

Toner también acusó a Altman de atacarlo deliberadamente después de que objetó un artículo del que era coautor. con derecho a «Objetivos de decodificación: inteligencia artificial y señales costosas» El documento analiza los peligros de la IA e incluye un análisis de las medidas de seguridad tanto de OpenAI como de su competidor Anthropic.

sin embargo, Según se informa, Altman considera que el artículo académico es muy crítico con OpenAI y elogioso de su rival.. tóner dijo Espectáculo TED de IA Después de que se publicó el artículo en octubre del año pasado, Altman comenzó a difundir mentiras a otros miembros de la junta en un esfuerzo por destituirlo. El supuesto incidente sólo dañó aún más la confianza de la junta en él, dijo, ya que ya habían discutido seriamente despedir a Altman.

Velocidad de la luz triturable

«(Para) cualquier caso personal, Sam siempre puede dar alguna explicación que parezca inocente de por qué no es gran cosa o ha sido mal interpretado o lo que sea», dijo Toner. «Pero el efecto final fue que después de unos años de este tipo de cosas, los cuatro que lo despedimos (los miembros de la junta directiva de OpenAI, Toner, McCauley, Adam D’Angelo e Ilya Sutskever) llegamos a la conclusión de que no podíamos creerlo. las cosas que Sam nos estaba contando.

«Y ese es un lugar completamente ineficaz para estar como junta directiva, especialmente una junta que se supone debe proporcionar supervisión independiente de la empresa, ya sabes, no sólo ayudar al CEO a recaudar más dinero. El CEO, que es su principal impulsor de la empresa, la empresa. En cuanto a su principal fuente de información, es completa, absolutamente imposible».

Toner dijo que la junta directiva de OpenAI ha tratado de abordar estos problemas, estableciendo nuevas políticas y procesos. Sin embargo, otros ejecutivos comenzaron a contarle a la junta sus propias experiencias negativas con Altman y el «ambiente tóxico que creó». Esto incluía acusaciones de mentiras y manipulación, capturas de pantalla de respaldo de conversaciones y otra documentación.

«Usan la frase ‘abuso psicológico’, nos dicen que no creen que sea la persona adecuada para liderar la empresa (inteligencia general artificial), nos dicen que no tienen fe en que él sea o pueda cambiar, lo cual no tiene sentido. Sin dándole retroalimentación, no tiene sentido tratar de solucionar estos problemas», afirmó Toner.

El director ejecutivo de OpenAI acusado de tomar represalias contra los críticos

Toner abordó además la fuerte protesta de los empleados de OpenAI contra el despido de Altman. Muchos publicaron en las redes sociales en apoyo al director general destituido, mientras que más de 500 de los 700 empleados de la empresa dijeron que renunciarían si no era reintegrado. Según Toner, al personal se le hizo creer en la falsa dicotomía de que si Altman no era «inmediatamente, sin responsabilidad (y) regresado a una junta completamente nueva de su elección», OpenAI estaría condenado.

«Entiendo por qué mucha gente se alineó porque no querían destruir la empresa, porque querían ganar mucho dinero con esta próxima oferta pública en algunos casos, o simplemente porque amaban a su equipo, no «No querían perder sus trabajos, les importaba el trabajo que estaban haciendo», dijo Toner. «Y, por supuesto, mucha gente no quería que la empresa se hundiera, incluidos nosotros».

También afirmó que el miedo a represalias por oponerse a Altman puede haber contribuido al apoyo que recibió del personal de OpenAI.

«Lo vieron tomando represalias contra la gente, tomando represalias contra ellos por casos pasados ​​de ser críticos», dijo Toner. «Tenían mucho miedo de lo que les podría pasar. Entonces, cuando algunos empleados empezaron a decir: ‘Espera, no quiero que la empresa colapse, como, traigamos a Sam de vuelta’, fue una experiencia muy difícil y francamente aterradora para ellos. esa gente.» que teme que si Sam termina en el poder como lo está, les hará la vida miserable».

Finalmente, Toner menciona la turbulenta historia laboral de Altman, que surgió inicialmente después de su fallido despido de OpenAI. El informe indica que Altman fue despedido de su puesto anterior en Y Combinator Debido a su supuesto comportamiento egoísta, Toner afirmó que OpenAI no era la única empresa con la que tenía el mismo problema.

«Y luego, en su trabajo anterior a ese, que era su único otro trabajo en Silicon Valley, su startup Lupt, aparentemente el equipo directivo fue a la junta directiva allí dos veces y le dijo a la junta que lo despidiera por lo que llamó ‘comportamiento fraudulento y caótico’. ‘», continuó Tóner.

«Si realmente miras su historial, no tiene un camino de referencia brillante. No fue un problema específico de las personalidades de la junta directiva, por mucho que le gustaría retratarlo de esa manera».

Toner y McCauley están lejos de ser los únicos ex alumnos de OpenAI que han expresado dudas sobre el liderazgo de Altman. El investigador jefe de seguridad, Jan Lake, renunció a principios de este mes, citando desacuerdos con las prioridades de la gestión y argumentando que OpenAI debería centrarse más en cuestiones como la seguridad, la protección y el impacto social. (El científico jefe y ex miembro de la junta directiva, Sutskever, también dimitió, aunque indicó su deseo de trabajar en un proyecto personal).

En respuesta, Altman y el presidente Greg Brockman defendieron el enfoque de seguridad de OpenAI. La compañía anunció esta semana que Altman liderará el nuevo equipo de seguridad de OpenAI. Mientras tanto, Leike se une a Anthropic.

Source link