Se están produciendo grandes cambios en OpenAI. El miércoles, la compañía anunció que cerraría su aplicación de creación de videos con inteligencia artificial, Sora, solo un par de meses después de su lanzamiento. En octubre, OpenAI completó una reestructuración masiva de su organización que sacude los cimientos sobre los que se construyó.
OpenAI, que impulsa ChatGPT, entre otros productos de IA, se fundó originalmente exclusivamente como una organización sin fines de lucro. Ahora tiene una rama con fines de lucro. Según el director ejecutivo de OpenAI, Sam Altman, la organización sin fines de lucro seguirá guiando el trabajo de la parte con fines de lucro para garantizar que la inteligencia artificial funcione en «beneficio de toda la humanidad». Además de eso, la Fundación OpenAI estaría a cargo (teóricamente) de 180 mil millones de dólares, lo que la convierte en una de las organizaciones benéficas más grandes del mundo.
Catherine Bracy, fundadora de la organización sin fines de lucro Tech Equity, cree que esta reestructuración es un intento descarado de liberar al ala con fines de lucro para que actúe como cualquier otra empresa de inteligencia artificial. Ella sostiene que el ala con fines de lucro de OpenAI sólo actuará en beneficio de sus inversores. Bracy cree que la Fundación OpenAI es simplemente un brazo de responsabilidad social corporativa glorificado y desdentado. Nos comunicamos con OpenAI para hacer comentarios y no recibimos una respuesta.
Bracy habló con Hoy, explicado El presentador Sean Rameswaram habla sobre la legalidad de la nueva estructura de OpenAI y sus preocupaciones sobre cómo podría salir todo esto. A continuación se muestra un extracto de su conversación, editado para mayor extensión y claridad.
Hay mucho más en el podcast completo, así que escuche Hoy, explicado dondequiera que obtenga sus podcasts, incluidos Apple Podcasts, Pandora y Spotify.
(Divulgación: Diario Angelopolitano Media es uno de varios editores que han firmado acuerdos de asociación con OpenAI. Nuestros informes siguen siendo editorialmente independientes).
¿Solías charlar con Sam Altman?
Trabajamos juntos en el pasado y luego perdimos el contacto durante algunos años. Luego, cuando estaba escribiendo un libro sobre capital de riesgo, estaba realmente interesado en el modelo sin fines de lucro de la IA abierta. Sam había sido muy explícito en que la razón por la que fundaron OpenAI como una organización sin fines de lucro fue para poner la tecnología a distancia de los inversores porque sabían que los inversores la explotarían de una manera que haría que esta tecnología, que pensaban que era muy peligrosa, realmente estuviera a la altura de ese peligro potencial.
Entonces quería hablar con él sobre el proceso de toma de decisiones detrás de esto. Y fue muy comunicativo acerca de que esa era la razón explícita por la que OpenAI se fundó como una organización sin fines de lucro. Pusieron mucho pensamiento, capacidad y energía en crear esta estructura de gobernanza (sin fines de lucro) que protegería la tecnología de los caprichos de los inversores, los imperativos (generadores de ganancias) que los inversores imponen a las empresas de tecnología.
Y unos meses más tarde, vi que todo se derrumbó.
Y cuando descubriste que Open AI se estaba reestructurando y que iba a tratar de tener ambas cosas: una organización sin fines de lucro impulsada por una misión, pero también una organización con fines de lucro impulsada por el dinero, ¿cuál fue tu reacción?
Decepción. Yo diría que esa fue mi reacción inicial. Y luego la respuesta secundaria fue: Bueno, ¿qué podemos hacer al respecto? Y muchos de nosotros nos unimos a esta coalición que realmente comenzó a hacer preguntas sobre la responsabilidad de las organizaciones sin fines de lucro y la responsabilidad del fiscal general de California de hacer cumplir la ley sobre las organizaciones sin fines de lucro. Y las cosas empezaron a partir de ahí.
Cuéntame más sobre eso. ¿Cómo es la ley de organizaciones sin fines de lucro en lo que respecta, por ejemplo, a OpenAI?
Dirijo una organización sin fines de lucro. En el código tributario, eso significa que mi organización no necesita pagar impuestos, pero a cambio de esa exención fiscal, debemos operar al servicio de una misión de servicio público. Nuestra misión es garantizar que la industria tecnológica esté creando oportunidades para todos. La misión sin fines de lucro de OpenAI es garantizar que la IA se desarrolle en beneficio de toda la humanidad. Y legalmente, Sam Altman debe priorizar la misión de OpenAI por encima de todo.
Entonces, cuando decidieron que iban a dividir la organización sin fines de lucro de la con fines de lucro, descubrieron que en realidad legalmente no podían hacerlo sin desinvertir la propiedad intelectual que poseía la organización sin fines de lucro, incluida toda la propiedad intelectual que se creó y que subyace al modelo ChatGPT, y la participación accionaria que la organización sin fines de lucro poseía en la empresa con fines de lucro.
Creo que miraron esa etiqueta de precio y dijeron: Ese no es un precio que estemos dispuestos a pagar.. Y entonces, en lugar de dividir las organizaciones sin fines de lucro y las con fines de lucro, decidieron continuar por este camino de propiedad sin fines de lucro, que en mi opinión es completamente insostenible, insostenible e irreconciliable.
Básicamente, cada día que existe OpenAI, están violando la ley.
Y en realidad lo que están haciendo es simplemente desafiar al fiscal general a que los haga responsables de ello. Creo que piensan que son demasiado grandes para rendir cuentas y necesitan que el fiscal general (de California) asuma que no ganará un caso. Y eso es lo que han hecho. Se han cargado de abogados y están apostando a que el fiscal general no perseguirá esto de ninguna manera que sea realmente significativa.
Bueno. Entonces, si te sigo, a pesar de que OpenAI se ha dividido en una rama con fines de lucro y una rama sin fines de lucro, su misión sin fines de lucro aún prevalece sobre todo lo que hacen. Y debido a eso, están violando la ley de California, porque no hay manera de que los intereses sin fines de lucro vayan a ser primarios en sus negocios..
Bien. Creo que, como dirían los niños, nos están jugando en la cara. Esperan que confiemos en su palabra de que mientras operan, mientras hacen acuerdos con el Departamento de Defensa para desarrollar armas autónomas y sistemas de vigilancia para ciudadanos estadounidenses, mientras luchan en los tribunales contra padres cuyos hijos se han suicidado debido a conversaciones que estos niños estaban teniendo con sus chatbots, esperan que creamos que se está priorizando la misión sin fines de lucro sobre la motivación de ganancias de la empresa.
Todos sabemos que la prioridad primordial de OpenAI es «ganar» la carrera de la IA. Se trata de vencer a la competencia en el mercado y de establecer la empresa de IA más grande que puedan crear. En la medida en que la misión sin fines de lucro alguna vez entre en tensión con eso, la compañía siempre priorizar las ganancias sobre la misión.
Una ley es tan buena como su aplicación. Y creo que si hay una regla en Silicon Valley es pedir perdón y no permiso. Creo que dijeron, Ya sabes, esto vale la pena. Hay suficiente dinero en juego para que simplemente violemos la ley y hagamos el trabajo de relaciones públicas y el trabajo de cabildeo y el otro trabajo que necesitamos hacer para garantizar que estas leyes nunca se apliquen en nuestra contra..
Y cuando hablas de trabajo de relaciones públicas, trabajo de cabildeo, ¿te refieres a decir que eventualmente donaremos estos $180 mil millones?
Bueno, aquí está la cuestión. Anunciaron esta semana una lista de prioridades en las que invertiría la fundación. Enumeraron como una de sus prioridades la investigación del Alzheimer. Mi madre actualmente está muriendo de Alzheimer. Tengo una copia del gen que me pone en riesgo extremo de desarrollar Alzheimer cuando sea mayor. Por eso rezo todos los días para que la IA nos ayude a encontrar una solución al Alzheimer lo suficientemente rápido como para que yo pueda beneficiarme de ella, que mi familia pueda beneficiarse de ella.
Pero déjame hacerte una pregunta. ¿Qué sucede, crees, si la investigación financiada por la Fundación OpenAI descubre que en realidad los modelos de Anthropic son mejores en el descubrimiento de fármacos o avances científicos que ChatGPT o cualquiera de los otros modelos de OpenAI? ¿Qué significa para la independencia de la investigación científica que toda esta investigación sea financiada por una entidad que tiene un conflicto de intereses irreconciliable?
«No tenemos que confiar en la palabra de estas empresas de que saben mejor cómo gestionar esta tecnología. Deberíamos tener mayor imaginación sobre lo que es posible».
No aceptaríamos la ciencia sobre la nicotina que las empresas tabacaleras estaban financiando. No aceptamos la ciencia sobre la adicción al alcohol que financian las empresas de alcohol. No aceptamos la ciencia sobre las bebidas azucaradas de la industria de los refrescos. Y no deberíamos aceptar que esta investigación científica sea financiada por una entidad que tiene un interés financiero creado en el resultado.
Y es por eso que es tan importante que la Fundación OpenAI de hecho ser independiente, que tenga una junta directiva independiente, que pueda desplegar sus recursos de forma independiente, que la investigación que financia sea independiente.
¿Sigues pensando que tal vez nos convenga más que OpenAI diga que quiere donar miles de millones a una sociedad mejor, que decir Anthropic, Google, tal vez teniendo algunas promesas de donar dinero, pero no tanto?
Bueno, Google tiene una base corporativa. Se llama Google.org. Y espero que en esta estructura, con la tensión y el conflicto de intereses que tiene la Fundación OpenAI, funcione mucho más como Google.org, que es esencialmente un brazo del departamento de marketing, un programa de responsabilidad social corporativa que da dinero a grupos inofensivos, pero nunca hará nada que socave las prioridades de Google.
Creo que si lees entre líneas el comunicado de prensa de Open AI, el trabajo que dicen que quieren continuar haciendo con la financiación comunitaria tiene que ver con convencer a la gente sobre la importancia, el valor y el beneficio del uso de la IA. Quiero decir, esa es una oportunidad de creación de mercado para ellos. En realidad, eso no es nada que garantice que la IA se desarrolle en beneficio de la humanidad. Entonces, no, no creo que vayan a operar de manera diferente a cualquiera de las ramas de responsabilidad social corporativa de otras compañías. Eso es esencialmente lo que han construido aquí.
Esta es la lucha de nuestro tiempo. La IA no es inevitable. La forma en que se desarrolla no es inevitable. Y no tenemos por qué confiar en la palabra de estas empresas de que saben mejor cómo gestionar esta tecnología. Deberíamos tener mayor imaginación sobre lo que es posible. Y en todo caso, esto debería darnos más energía y motivación para arreglar lo que está mal en nuestra democracia que simplemente sentarnos y dejar que los multimillonarios controlen nuestro futuro.
¿Alguna vez hablas más con Sam Altman?
No devuelve mis llamadas.
Bueno, gracias por hablar con nosotros.
