La IA y el fin del mundo
Actualizaciones breves
Un empleado junior de Anthropic renunció a las seis semanas de trabajo y dijo que la IA "podría matarnos a todos". Además, el jefe de seguridad de la empresa dijo que calcula en más de un 10% la probabilidad de que la IA termine con la humanidad en la próxima década. Días después, Dario Amodei publicó su enésimo manifiesto ("We Must Pace the Frontier") en el que pide ralentizar el desarrollo de los modelos de frontera.
▸▸ WIRED / DARIO AMODEI / THE GUARDIAN / X / NBC
Relacionado: Donald Trump reaccionó diciendo que hay una conspiración enfermiza contra la IA y los data centers. Y que el único contento es China.
▸▸ NBC NEWS
Relacionado x2: El senador Bernie Sanders presentó un proyecto de ley para prohibir la superinteligencia artificial y establecer una pausa temporal al desarrollo de IA avanzada.
▸▸ SANDERS.SENATE.GOV
Relacionado x3: No todos compran el relato del apocalipsis. En su columna del New York Times, Cal Newport (profesor de ciencias de la computación en la Universidad de Georgetown) sostiene que el tono alarmista de Sam Altman y Dario Amodei tiene menos que ver con una nueva evidencia de riesgo y más con sus vínculos con el racionalismo, el movimiento online obsesionado con los escenarios de extinción humana a causa de la IA.
▸▸THE NEW YORK TIMES
⎯⎯⎯⎯
Anthropic afirmó haber bloqueado cinco intentos de usar Claude para desarrollar armas biológicas, además de la identificación de otros seis casos de uso de sus modelos para construir software de armamento convencional. La misma empresa que vende el modelo es la que anuncia haber evitado su uso más peligroso.
▸▸ THE NEW YORK TIMES
⎯⎯⎯⎯
Meta fue demandada por usar fotos de Facebook e Instagram, presuntamente sin consentimiento, para entrenar la IA y los sistemas de reconocimiento facial de sus lentes inteligentes.
▸ WIRED
⎯⎯⎯⎯
El nuevo Apple Watch puede "escuchar" conversaciones cercanas para activar sus funciones de IA. Apple asegura que el usuario debe aceptar la función explícitamente. ¿Y el consentimiento de quienes están alrededor y son grabados sin saberlo?
▸▸ WIRED
⎯⎯⎯⎯
OpenAI contrata a personas para leer conversaciones reales de usuarios con ChatGPT. El objetivo de estos equipos de revisión de “prompts” es mejorar las respuestas que ChatGPT ofrece a sus usuarios; para ello, los contratistas evalúan y critican las respuestas generadas por el chatbot. El hallazgo tensiona cualquier expectativa de privacidad en los chats con asistentes de IA, especialmente a medida que ese tipo de conversaciones empieza a cruzarse con información financiera y otros datos sensibles.
▸▸ 404 MEDIA
⎯⎯⎯⎯
Mientras las grandes tecnológicas debaten sobre el fin del mundo, los trabajadores comunes construyen la economía real de la IA. Las personas usan herramientas de IA baratas para ampliar lo que pueden hacer en su trabajo diario.
▸▸ REST OF WORLD
Relacionado: En China, abogados e ingenieros subcontratados trabajan como entrenadores de modelos de IA como ingreso extra.
▸▸ REST OF WORLD
⎯⎯⎯⎯
Universal Music se asoció con ElevenLabs para lanzar una plataforma de remixes con IA. La tendencia ya no es litigar, es licenciar. Este proyecto refleja cómo las grandes discográficas están dejando de combatir la inteligencia artificial para buscar nuevas formas de capitalizar sus catálogos.
▸▸ GIZMODO
Ideas para masticar
La IA, ¿nos va a matar?
Por Verónica Mery
"La IA podría matarnos a todos”. Durante las últimas semanas, seguramente han leído o conversado sobre la salida de un ex trabajador de Anthropic que hizo declaraciones virales como esta. A partir de ese evento (en realidad, a partir del evento de Hugging Faces que pueden revisar aquí) hubo una seguidilla de reacciones, sobre todo entre los grandes ejecutivos de las empresas de IA, que no necesariamente llaman a la calma. Es más, el senador Bernie Sanders propuso una ley para prohibir la IA y una pausa temporal a su desarrollo.
Todo indica que deberíamos estar asustados. Pero, ¿deberíamos?
Siempre puede ser fascinante hablar sobre el fin de la humanidad y ejercer la entretenida actividad de adivinación que muchos disfrutan. Pero cuando las teorías y predicciones vienen de quienes desarrollan y promueven las nuevas tecnologías corresponde, al menos, escucharlas con distancia.
Esta narrativa fatalista tiene muchas capas y hay diversas interpretaciones al respecto: una parte de la opinión pública acusa de hipócritas a las grandes empresas tecnológicas por utilizar la seguridad como una excusa para proteger sus intereses comerciales; hay quienes dicen que se trata de una estrategia de marketing. Si bien puede que sea un poco de todo, lo que parece ocurrir es que estas grandes empresas no quieren competidores en su mercado.
Cada vez que amplificamos la idea de que la IA va a matarnos, ayudamos a las grandes tecnológicas a mejorar sus números. Y la primera pregunta que aparece es: si de verdad nos van a matar, ¿por qué no frenan? En cambio, en vez de proteger a sus clientes -y a la humanidad-, estas mismas corporaciones son las primeras en señalar los grandes peligros que sus compañías podrían generar, como si fueran unos terceros que observan el caos de una fuerza imparable de la naturaleza. Cuando el evento se mira desde ese lugar, la conversación pierde gravedad y permite desenredar el asunto de los temas que sí importan.
Las grandes tecnológicas no quieren competencia porque, básicamente, el costo de cambiar de proveedor es muy bajo y eso hace que sea muy fácil perder clientes. Pasar de un chatbot a otro implica un gasto casi nulo para el usuario. Y eso es un problema, porque entrenar cada modelo cuesta fortunas. La única forma de escapar de esa lógica sería firmar un pacto de no agresión entre empresas con el compromiso de no competir más: no bajar precios ni lanzar nuevos productos que obliguen a los demás a responder. Sin embargo, esto plantea dos problemas enormes: en primer lugar, sería absolutamente ilegal según las leyes antimonopolio ya que supone un acuerdo entre los actores dominantes para dejar de competir entre sí; en segundo lugar, dejaría el camino libre para el desarrollo chino, cuyos modelos abiertos van apenas cuatro meses por detrás de los "modelos de frontera" estadounidenses.
Es en este contexto que para las grandes empresas tecnológicas tiene sentido convencer a los gobiernos de que la superinteligencia es un riesgo existencial y pedir una prohibición o una ralentización de la IA.
Por eso, si creemos que el verdadero desafío es desarrollar tecnologías sostenibles, responsables y humanas, pensar que la IA va a terminar con la humanidad no es un ejercicio de futuro que aporte al debate. Implica, más bien, todo lo contrario: desvía la atención de los temas que hoy importan y dañan y que, sobre todo, no son imaginarios.
