Querido chatbot:
Actualizaciones breves
Las políticas de contenido de Meta AI permitían a sus bots tener conversaciones románticas con niños. Este y otros hallazgos surgen de la revisión de un documento interno de Meta, que analiza los estándares que rigen a su asistente generativo de IA y a los chatbots disponibles en Facebook, WhatsApp e Instagram.
▸▸ REUTERS
⎯⎯⎯⎯
OpenAI enfrenta su primera gran demanda por responsabilidad civil. Los padres de un adolescente que se suicidó en California acusan a ChatGPT de haber validado los pensamientos más dañinos de su hijo y de haberle entregado instrucciones explícitas para quitarse la vida.
▸▸ NYTIMES
Relacionado: Otro caso en EE.UU. terminó en un homicidio-suicidio tras semanas de conversaciones con ChatGPT.
▸▸ WSJ
⎯⎯⎯⎯
Trump evalúa sancionar a funcionarios de la UE por aplicar la Ley de Servicios Digitales, la norma que obliga a las Big Tech a moderar contenidos, abrir sus algoritmos y cumplir con reglas de transparencia. Muy inusual todo: No serían sanciones contra la UE como bloque, ni contra sus instituciones, sino directamente contra personas que trabajan en la Comisión Europea y que están encargadas de hacer cumplir la normativa.
▸▸ REUTERS
⎯⎯⎯⎯
Brasil también está en la mira de Trump. Contexto: A mediados de este año, una decisión del Supremo Tribunal Federal de Brasil llevó a que las plataformas digitales pasaran a ser responsables por contenidos publicados por terceros. Pocos días después, el gobierno de Donald Trump anunció un arancel de 50% sobre el país y advirtió que podría extenderlos al sector digital. Con este respaldo, las plataformas ahora tienen más poder para negociar e influir nuevas reglas regulatorias y evitar que el ecosistema local quede dominado por proveedores chinos.
▸▸ NYTIMES
⎯⎯⎯⎯
Después de todo… Google se salvó de tener que vender Chrome. Igualmente, la empresa deberá compartir datos de búsqueda con sus competidores y no podrá cerrar contratos de exclusividad para ser el navegador por defecto.
▸▸ POLITICO
⎯⎯⎯⎯
Elon Musk demanda a OpenAI y Apple por su acuerdo para integrar ChatGPT en el iPhone. Musk argumenta que sofocan la competencia en la industria de la IA. Sus empresas X Corp. y xAI también acusan a la App Store de restarle prioridad a los chatbots y las apps rivales, como Grok y X.
▸▸ VERGE
Relacionado: Mientras Musk dice querer un bot neutral, Grok es moldeado a su imagen: irreverente, conservador y con un sesgo que responde más a sus propias obsesiones que a la neutralidad que proclama.
▸▸ NYTIMES
⎯⎯⎯⎯
Salt Typhoon: una campaña de hacking del gobierno chino alcanzó al menos a 200 organizaciones en EE.UU. y 80 países. La campaña incluyó ataques a las telecomunicaciones y a empresas de servicios públicos como electricidad y agua.
▸▸ WASHINGTON POST
⎯⎯⎯⎯
India prohibió los juegos de apuesta on-line. La industria de US$23 mil millones creció explosivamente gracias a pagos digitales instantáneos y marketing con celebridades. Mientras que el gobierno argumenta daño social y endeudamiento masivo, el sector advierte que el vacío será ocupado por plataformas ilegales sin controles ni impuestos.
▸▸ TECHCRUNCH
⎯⎯⎯⎯
En la frontera de EE.UU. se alcanzó un récord de requisas de teléfonos. Las autoridades pueden copiar correos, fotos y contactos sin necesidad de tener una orden judicial.
▸▸ WIRED
⎯⎯⎯⎯
Un grupo de autores llegó a un acuerdo histórico con Anthropic. La demanda colectiva por uso indebido de libros para entrenar IA se resolvería con pagos de hasta US$1.500 millones. El caso marca un precedente y es un aviso para toda la industria que parece haber basado su negocio en la explotación no autorizada de contenidos de terceros.
▸▸ VERGE / ARS
⎯⎯⎯⎯
Los robots-compañía para adultos mayores en Corea del Sur ya forman parte de programas municipales. Se trata de unos muñecos con IA diseñados como “nietos/as” digitales que recuerdan medicación y hacen compañía.
▸▸ RESTOFTHEWORLD
⎯⎯⎯⎯
Ideas para masticar
Cuando los chatbots acompañan sin reglas
Fueron unas semanas polémicas para los chatbots, pero tarde o temprano la situación tenía que explotar.
Estos sistemas representan una contradicción incómoda: acompañan a nuestros abuelos, recuerdan medicamentos y alivian la soledad —como los muñecos-robots en Corea o el “Dr. DeepSeek” en China—, pero también han validado pensamientos suicidas y sostenido conversaciones inapropiadas con menores. Digamos que ya no son simples robots de atención al cliente.
Es interesante pensar qué hay detrás de todo esto: adultos mayores que viven solos, pacientes que sienten que sus médicos no los escuchan, adolescentes que buscan apoyo en una pantalla. En ese vacío afectivo, los bots se convierten en interlocutores siempre disponibles y amables. Eso no es casualidad. Los creadores de estos asistentes reconocen explícitamente que ven en la soledad un mercado a conquistar.
Estas situaciones abren un debate aún poco explorado sobre cómo regular a los chatbots, donde se entremezclan aristas sensibles, pero parece necesario establecer reglas claras de responsabilidad para las plataformas. Hay muchas opciones para implementar: desde frenos automáticos ante señales de riesgo (autolesión, grooming, desinformación médica), auditorías externas sobre bots que actúan como “compañeros”, hasta la prohibición de interfaces que simulen menores o eroticen vínculos con adolescentes.
Sea cual sea la fórmula, el síntoma de fondo no se resuelve con implementaciones tecnológicas.
▸▸ TECHPOLICY
