Es un buen momento para ser un ingeniero de inteligencia artificial de gran demanda. Para atraer a los principales investigadores lejos de Openai y otros competidores, Meta ha ofrecido paquetes de pago por un total de más de $ 100 millones. Los mejores ingenieros de IA ahora están siendo compensados como superestrellas del fútbol.
Pocas personas tendrán que lidiar con la pregunta de si trabajar para la empresa de «superinteligencia» de Mark Zuckerberg a cambio de suficiente dinero para nunca tener que volver a trabajar (el columnista de Bloomberg, Matt Levine puede hacerse insondablemente rico sin simplemente retirarse).
La mayoría de nosotros solo podemos soñar con tener ese problema. Pero muchos de nosotros ocasionalmente hemos tenido que navegar por la pregunta de si asumir un trabajo éticamente dudoso (¿negando las afirmaciones de seguros? ¿Escallar la criptomoneda? ¿Hacer que los juegos móviles sean más hábiles?) Para pagar las facturas.
Para aquellos que trabajan en IA, ese dilema ético se sobrealimenta hasta el punto de absurdo. La IA es una tecnología ridículamente de alto riesgo, tanto para bien como para enfermedades, con líderes en el campo advirtiendo que podría matarnos a todos. Un pequeño número de personas lo suficientemente talentosas como para lograr una IA superintelligente puede alterar drásticamente la trayectoria de la tecnología. ¿Es posible que lo hagan éticamente?
Ai va a ser un gran problema
Por un lado, las compañías líderes de IA ofrecen a los trabajadores el potencial de ganar riquezas insondables y también contribuir al bien social muy significativo, incluidas las herramientas que aumentan la productividad que pueden acelerar los avances médicos y el descubrimiento tecnológico, y hacer posible que más personas codifiquen, diseñen y realicen cualquier otro trabajo que pueda hacerse en una computadora.
Por otro lado, bueno, es difícil para mí argumentar que el «ingeniero de waifu» que Xai ahora está contratando: un papel que será responsable de hacer que la «compañera» de la niña de anime arriesgada de Grok sea aún más formadora de hábitos, es de cualquier beneficio social, y de hecho me preocupa que el ascenso de tales botas sea la detrimento de la sociedad. Tampoco estoy encantado con los casos documentados de chatgpt alentando creencias delirantes en usuarios vulnerables con enfermedades mentales.
Mucho más preocupante, los investigadores que corren para construir poderosos «agentes» de IA: los sistemas que pueden escribir código de forma independiente, hacer compras en línea, interactuar con las personas y contratar subcontratistas para tareas, se están encontrando con muchas señales de que esos IA podrían engañar intencionalmente a los humanos e incluso tomar medidas dramáticas y hostiles contra nosotros. En las pruebas, AIS ha tratado de chantajear a sus creadores o enviar una copia de sí mismos a los servidores donde pueden operar más libremente.
Por ahora, las AIS solo exhiben ese comportamiento cuando se les da indicaciones con precisión diseñadas diseñadas para llevarlos a sus límites. Pero con un número cada vez más grande de agentes de IA que poblan el mundo, cualquier cosa que pueda suceder en las circunstancias correctas, aunque sea raro, probablemente suceda a veces.
En los últimos años, el consenso entre los expertos en IA se mudó de «AIS hostil que tratar de matarnos es completamente inverosímil» a «AIS hostil solo intenta matarnos en escenarios cuidadosamente diseñados». Bernie Sanders, no exactamente un hombre de bombo tecnológico, ahora es el último político en advertir que a medida que los AI independientes se vuelven más poderosos, podrían tomar el poder de los humanos. Es un «escenario del fin del mundo», como lo llamó, pero ya no es descabellado.
Y si los mismos AIS deciden matarnos o dañarnos o no, podrían caer en manos de las personas que lo hacen. Los expertos preocupan que la IA facilite mucho que las personas deshonestas diseñen plagas o planifiquen actos de violencia masiva, y que los estados logren alturas de vigilancia sobre sus ciudadanos que han soñado durante mucho tiempo, pero nunca antes de poder lograr.
En principio, muchos de estos riesgos podrían mitigarse si los laboratorios diseñaron y se adhieran a los planes de seguridad sólidos de roca, respondiendo rápidamente a los signos de comportamiento aterrador entre las IA en la naturaleza. Google, Openai y Anthrope tienen planes de seguridad, que no me parecen completamente adecuados para mí, pero que son mucho mejores que nada. Pero en la práctica, la mitigación a menudo queda en el camino frente a la intensa competencia entre los laboratorios de IA. Varios laboratorios han debilitado sus planes de seguridad cuando sus modelos estuvieron cerca de cumplir con los umbrales de rendimiento previamente especificados. Mientras tanto, Xai, el creador de Grok, está empujando lanzamientos sin una planificación de seguridad aparente.
Peor aún, incluso los laboratorios que comienzan profundamente y sinceramente comprometidos con garantizar que la IA se desarrolle de manera responsable a menudo ha cambiado de curso más adelante debido a los enormes incentivos financieros en el campo. Eso significa que incluso si toma un trabajo en Meta, OpenAi o antrópico con las mejores intenciones, todo su esfuerzo por construir un buen resultado de IA podría redirigirse hacia algo completamente diferente.
Entonces, ¿deberías tomar el trabajo?
He estado viendo evolucionar esta industria durante siete años. Aunque generalmente soy un óptimo tecnológico que quiere ver el diseño de la humanidad e inventar cosas nuevas, mi optimismo ha sido atenuado al presenciar que las compañías de IA admiten abiertamente que sus productos podrían matarnos a todos, luego corriendo con precauciones que parecen totalmente inadecuadas para esas apuestas. Cada vez más, parece que la carrera de IA se está dirigiendo desde un acantilado.
Dado todo eso, no creo que sea ético trabajar en un laboratorio de IA fronteriza a menos que haya dado muy Pensé cuidadoso sobre los riesgos de que su trabajo se acercará a Fruition, y Tiene una razón específica y defendible por la cual sus contribuciones mejorarán la situación, no peor. O bien, tiene un caso de Ironclad de que la humanidad no necesita preocuparse por la IA en absoluto, en cuyo caso, publíquelo para que el resto de nosotros pueda verificar su trabajo!
Cuando están en juego grandes sumas de dinero, es fácil autoestimarse. Pero no iría tan lejos como para afirmar que literalmente todos los que trabajan en Frontier AI están involucrados en el autoengaño. Parte del trabajo que documenta de lo que los sistemas de IA son capaces y sondear cómo «piensan» es inmensamente valioso. Los equipos de seguridad y alineación de Deepmind, OpenAi y Anthrope han hecho y están haciendo un buen trabajo.
Pero cualquiera que presione para que un avión despegue mientras convenció que tiene un 20 por ciento de posibilidades de chocar sería muy irresponsable, y veo poca diferencia al tratar de construir superinteligencia lo más rápido posible.
Después de todo, no vale la pena acelerar cien millones de dólares de sus seres queridos o el fin de la libertad humana. Al final, solo vale la pena si no puedes simplemente quedarte rico en la inteligencia artificial, sino que también ayuda a que vaya bien.
Puede ser difícil imaginar a cualquiera que rechace riquezas alucinantes solo porque es lo correcto frente a los riesgos futuros teóricos, pero conozco a algunas personas que han hecho exactamente eso. Espero que haya más de ellos en los próximos años, ya que más absurdos como la reciente debacle de Mechahitler de Grok van de la ciencia ficción a la realidad.
Y, en última instancia, si el futuro resulta o no para la humanidad puede depender de si podemos persuadir a algunas de las personas más ricas de la historia para notar algo que sus cheques de pago dependen de que no se den cuenta: que sus trabajos podrían ser muy, muy malos para el mundo.
