Los datos de Slack no pueden usarse para entrenar una IA

Slack es una plataforma de mensajería corporativa, propiedad de Salesforce, que centraliza conversaciones, archivos y automatizaciones de equipos. Para miles de empresas, los canales de Slack son el repositorio vivo de sus procesos internos y conocimiento colectivo. Por ello, los desarrolladores suelen conectarlo a buscadores, chatbots o sistemas de inteligencia artificial que necesitan “alimentarse” de esos datos.

La vía oficial para acceder al contenido es la API de Slack, que es el método que permite extraer, indexar o analizar mensajes y archivos conforme a los permisos otorgados por cada cliente.

El 29 de mayo de 2025, Slack publicó una versión actualizada de sus API Terms of Service.

La novedad clave está en la sección “Uso de los Datos”, apartado A), y es que resulta que ahora las aplicaciones ya no pueden “Utilizar Datos de las API para entrenar un modelo de lenguaje de gran tamaño”.

Además, el apartado B) indica que tampoco se puede “Exportar de forma masiva mensajes y datos de archivos de Slack, salvo cuando lo permita expresamente un acuerdo adicional”.

Por si fuera poco, en el apartado “API de acceso a datos” se indica que “Al utilizar la API de acceso a datos, no puedes crear copias, archivos, índices ni almacenes de datos que perduren a largo plazo”, salvo el tratamiento temporal imprescindible para responder a una consulta.

En paralelo, Slack ha reducido drásticamente el caudal de ciertas llamadas (p. ej., el conversations.history) para aplicaciones que no estén listadas en su Marketplace, con el argumento de reforzar la seguridad y evitar la exfiltración masiva de datos.

La medida se hizo pública cuando herramientas de búsqueda como Glean informaron de que ya no pueden indexar ni conservar mensajes de forma continua, lo que incrementa la latencia y reduce la utilidad de sus motores semánticos.

¿Qué podría implicar el cambio? Varias cuestiones:

• Los RAG o Recuperación‑Augmented Generation (RAG) que muchas IA usan en configuraciones avanzadas y que dependían de duplicar el histórico de Slack, tendrán seguramente que rediseñar su arquitectura y pasar a ofrecer servicios con mayor latencia y coste.
• Si una compañía quiere explotar sus propios datos de Slack con otro proveedor, deberá verificar que la solución respeta las nuevas limitaciones o negociar excepciones vía el Slack Marketplace.
• Al impedir la copia masiva, Slack dice que busca proteger la confidencialidad, pero en el fondo también quiere consolidar su control sobre datos que siguen siendo del cliente. Por tanto, surge la duda de si la restricción obstaculiza un potencial derecho de portabilidad, la interoperabilidad que promueve la Digital Markets Act o incluso la futura Data Act desde septiembre de 2025.
• Limitar APIs que habilitan servicios rivales ha generado conflictos legales en Europa, véanse los precedentes de Facebook. Por tanto, cualquier denuncia ante la Comisión Europea evaluará si la medida es necesaria para la seguridad o en el fondo es un cierre de mercado disfrazado.

¿Qué puede hacerse legalmente? Algunas ideas:

• Una auditoría contractual para revisar si la integración con Slack de tu app o web hace caching o indexación permanente. En ese último caso, incumple los nuevos términos.
• Si pretendes entrenar un modelo interno de IA con mensajes, la propia API ya impide ese flujo masivo. Por tanto, habría que valorar otras formas de acceder a los datos tanto técnica como legalmente.
• Si hay que cambiar de proveedor que se conectaba a Slack, las empresas podrían solicitar exportaciones estructuradas para quizá entregarlas a un nuevo proveedor bajo un formato interoperable.
• Valorar la opción de acuerdos específicos con Slack, si es posible.
• Documentar los efectos del cambio sobre el rendimiento y el modelo de negocio si eres un proveedor de servicios en Slack. Si procede, valorar recurrir a las autoridades de competencia.

En resumen, la actualización de Slack representa un cambio de estrategia que busca blindar el valor de su base de datos frente a la IA generativa y, a la vez, ser un garante de la seguridad. El problema es que legalmente el cambio podría estar seriamente limitando la capacidad de actuación de la empresa usuaria de Slack y del proveedor que accede a los mismos.

Actualidad del 12 al 18 de mayo de 2025.

Dado el parón de las últimas semanas, este número es ABIERTO al completo. La próxima semana volverá ser en abierto el tema semanal y bajo suscripción la recopilación de actualidad.

La crítica de EEUU al código de buenas prácticas de IA de la UE es útil, dice un científico de IA líder: Los redactores del código de buenas práctica de la UE para IA de propósito general deberían ver una controvertida carta de retroalimentación reciente de EEUU como sugerencias útiles para mejorar el código en lugar de como una búsqueda de fallos, según una de las figuras clave involucradas en el proceso, el científico informático Yoshua Bengio. El proceso de redacción, supervisado por la Comisión Europea, es “ejemplar”, dijo, añadiendo que estaba “muy orgulloso de lo que hemos logrado”.

La IA está siendo analizada en contextos B2C para próximo proyecto de ley, dice McGrath de la UE: La Comisión Europea está evaluando si su próxima ley de protección al consumidor para el ámbito digital debería abordar cómo se usa la IA en entornos de negocio a consumidor, dijo el Comisionado de Justicia Michael McGrath en una conferencia. Un estudio histórico, publicado el año pasado, sugiere que McGrath se refería a la personalización injusta y a los chatbots impulsados por IA. Dijo que la próxima Ley de Equidad Digital abordará las “piezas faltantes del rompecabezas” para un mercado digital justo, pero no se superpondrá con las leyes existentes, como el Reglamento de IA y la Ley de Servicios Digitales.

Los legisladores de la UE contemplan acciones legales si el código de práctica de modelos de IA no se alinea con el Reglamento de IA: Si el código de práctica de la UE que se está redactando para los modelos de IA de propósito general se excede o contradice las disposiciones de la Reglamento de IA, los legisladores de la UE considerarán llevar a la Comisión Europea ante los tribunales, advirtió esta semana el influyente legislador Brando Benifei. La posibilidad de presentar una demanda ante el Tribunal de Justicia de la UE se está discutiendo informalmente antes de la publicación de la versión final del código, pero se enfrentarían a desafíos procedimentales y políticos.

Los desarrolladores de IA y usuarios reciben preguntas y respuestas de la UE para el cumplimiento de la alfabetización en IA: Los desarrolladores y usuarios de IA ahora tienen un conjunto de preguntas y respuestas de la Comisión Europea destinadas a aclarar cómo deben cumplir con el requisito del Reglamento de IA de la UE de garantizar un nivel suficiente de alfabetización en IA de los miembros de su personal y otras personas que tratan con herramientas de IA en su nombre.

Aportes de partes interesadas sobre las prohibiciones del Reglamento de IA y definición de IA publicados por la Comisión de la UE: La Comisión Europea ha publicado un informe subcontratado al Centro de Estudios de Política Europea que analiza los comentarios de las dos consultas públicas que se realizaron para informar las directrices de la Reglamento de IA sobre prácticas prohibidas y definición del sistema de IA, que la comisión publicó en febrero.

Se les dice a los responsables de estándares de IA de la UE que intensifiquen, mientras se reconoce el progreso: El grupo de trabajo de la UE que desarrolla estándares técnicos de la Reglamento de IA debe asumir la responsabilidad de su trabajo, que ha estado plagado de retrasos, dijo la Comisión Europea a sus miembros, mientras reconocía un progreso significativo en varios entregables clave, según supo MLex. La comisión compartió comentarios para una reunión plenaria del grupo de trabajo, JTC 21.

Las conversaciones Microsoft-OpenAI están siendo monitoreadas por el regulador de fusiones de la UE: Las últimas discusiones de Microsoft con Open AI están en el radar de los reguladores de competencia de la UE, con el alto funcionario Olivier Guersent diciendo que verificarán si algún desarrollo requiere la aprobación de la UE. Señaló que el organismo de control de fusiones de la UE había concluido que la asociación existente entre los dos no equivalía a una fusión según la ley de la UE.

Convocatoria para salvaguardar los derechos de autor en el desarrollo de IA respaldada por la mayoría de los países de la UE: Los sectores creativos y culturales deben estar efectivamente protegidos del desarrollo de IA, han instado los ministerios de cultura de 15 gobiernos de la UE, citando deficiencias en las protecciones de derechos de autor dentro del código de buenas prácticas del Reglamento de IA de la UE para modelos de IA de propósito general. El apoyo a la iniciativa liderada por Portugal incluso vio a España instar a la revisión de la Directiva de Derechos de Autor. Sin embargo, las posiciones de los ministerios de cultura están destinadas a chocar con las de los ministerios de economía.

Los proveedores de modelos de IA verán el código de buenas prácticas de la UE en julio, dice el jefe de la Oficina de IA: Los proveedores de modelos de IA de propósito general, incluidos OpenAI, Google y Microsoft, verán un código de buenas prácticas final para ayudarlos a cumplir con la Reglamento de IA de la UE en julio, dijo la alta funcionaria de la Comisión Europea Lucilla Sioli. El código debía publicarse el 2 de mayo, pero se retrasó debido a los esfuerzos para alinearlo con las pautas sobre las reglas de IA de propósito general y para asegurar el apoyo de las principales empresas de IA en medio de la presión del gobierno de EE. UU.

El requisito de alfabetización en IA de la UE es poco probable que se aplique por sí solo, dice la DPA irlandesa: La disposición de alfabetización en IA del Reglamento de IA de la UE es más probable que se aplique como un factor agravante o contribuyente dentro del contexto de otros procedimientos de infracción que aplicada directamente por sí sola, dijo Dale Sunderland, el Comisionado de Protección de Datos de Irlanda, en una conferencia. El regulador irlandés señaló que, aunque el RGPD y el Reglamento de IA varían significativamente en términos de requisitos de alfabetización, los principios subyacentes son los mismos e invitó a las organizaciones a aprovechar los programas existentes o aprender de esa experiencia.

La IA permanecerá en el radar antimonopolio francés, dice Cœuré: La autoridad de competencia de Francia seguirá investigando temas relacionados con la IA, dijo su director. Benoit Cœuré mencionó en particular el tema del consumo de energía en el entrenamiento de modelos de IA, y añadió que el video generado por IA será parte de una próxima opinión sobre la producción de videos en línea.

La UE debe dejar de perseguir a EEUU y repensar la estrategia de IA con instalaciones ágiles, dicen los legisladores: Europa necesita “ponerse sobria” y evaluar sus fortalezas en inteligencia artificial para desarrollar una estrategia coherente y centrarse en instalaciones más pequeñas, dijeron los legisladores europeos. No debería y no puede seguir el enfoque de EEUU, dijeron.

La Comisión de la UE ofrece una visión sobre cómo el Reglamento de IA podría interactuar con otras leyes: La Comisión Europea proporcionó a los legisladores de la UE un adelanto de sus próximas directrices sobre la interacción entre el Reglamento de IA y otra legislación relevante, a saber, las leyes de seguridad de productos como el Reglamento de Dispositivos Médicos, el RGPD, la Ley de Mercados Digitales, la Ley de Servicios Digitales y la legislación de derechos de autor de la UE.

Los estándares del Reglamento de IA de la UE estarán listos poco después del plazo de aplicación legal: Se espera ahora que la mayor parte de los estándares técnicos diseñados para facilitar el cumplimiento del Reglamento de IA de la UE se finalicen poco después de que entren en vigor los requisitos legales de la ley, según un cronograma compartido esta semana. Los desarrolladores y usuarios de IA tendrán que adoptar los estándares rápidamente para minimizar sus riesgos de cumplimiento, pero varias autoridades nacionales también enfrentan retrasos en su configuración. Sin embargo, los estándares de IA solo cubrirán parcialmente los requisitos legales del Reglamento de IA, ya que se espera la entrega completa mucho más tarde.

El gobierno del Reino Unido afirma éxito en el primer uso de IA interna para evaluar consulta en vivo: Una herramienta de IA construida por el gobierno del Reino Unido se ha utilizado para revisar los resultados de consultas en vivo por primera vez, con resultados que coinciden con los de una revisión experta humana. Las respuestas de la consulta habían sido creadas a través de un proceso de IA generativa. El gobierno ahora espera implementar la herramienta “Consult”, parte de su suite de aplicaciones de IA internas “Humphrey”, con la esperanza de ahorrar 75,000 días de análisis manual cada año y ahorrar 20 millones de libras ($26 millones) en costos de personal. El primer uso fue en una consulta del gobierno escocés que recopiló más de 2,000 opiniones sobre cómo regular los procedimientos cosméticos no quirúrgicos.

La batalla del Reino Unido sobre IA y derechos de autor continúa con más cambios en el proyecto de ley de datos: Una batalla sobre IA y derechos de autor en el Parlamento del Reino Unido parece destinada a continuar, con legisladores en la Cámara de los Lores retrabajando una enmienda al proyecto de ley de reforma de datos para brindar más protecciones a los titulares de derechos donde sus obras puedan ser utilizadas para entrenar modelos de IA. Una versión anterior fue rechazada a través de una maniobra procesal que bloqueó propuestas que costarían dinero. La nueva versión elimina un requisito para la aplicación de las medidas de transparencia propuestas.

La Cámara de Representantes de EEUU avanza con propuesta de moratoria de 10 años sobre leyes estatales de IA: Los demócratas criticaron una propuesta federal para bloquear a los estados de hacer cumplir las leyes de inteligencia artificial durante una década como un “regalo sin precedentes a las grandes tecnológicas” y “profundamente peligroso” en una audiencia del comité de la Cámara de EEUU. Pero la moratoria propuesta, parte del proceso de reconciliación presupuestaria en curso, avanzó a través del Comité de Comercio de la Cámara liderado por los republicanos en una audiencia de marcación de todo el día que se extendió hasta las primeras horas del miércoles.

La agencia de privacidad de California se opone a la prohibición de aplicación de IA en el proyecto de ley de reconciliación de la Cámara: La Agencia de Protección de la Privacidad de California se opuso a una disposición en el proyecto de ley de reconciliación presupuestaria del Comité de Energía y Comercio de la Cámara que busca colocar una moratoria sobre la aplicación de leyes y regulaciones estatales de inteligencia artificial y tecnología de toma de decisiones automatizada durante 10 años, según una carta de la agencia. “Las disposiciones amplias de la Moratoria de Aplicación podrían despojar a millones de estadounidenses de los derechos que ya disfrutan”, dijo la agencia.

La moratoria sobre leyes estatales de IA rechazada por el Comité de Presupuesto de la Cámara de EEUU: El Comité de Presupuesto de la Cámara de EEUU rechazó la legislación que habría bloqueado a los estados de hacer cumplir las leyes y regulaciones de inteligencia artificial durante 10 años. La moratoria propuesta era parte de un proceso de reconciliación presupuestaria destinado a llevar a cabo la agenda doméstica de la Administración Trump. Pero los conservadores se unieron a los demócratas para bloquear el mega proyecto de ley de su partido para que no llegue al pleno de la Cámara, diciendo que están preocupados de que la legislación agregaría demasiado al déficit.

Trump elimina las restricciones de la era Biden sobre las exportaciones de chips de IA: El Departamento de Comercio de EEUU anunció que ha rescindido las directrices sobre exportaciones de tecnología de inteligencia artificial emitidas bajo el ex presidente Joe Biden, diciendo que tomaría otros pasos para “fortalecer los controles de exportación” sobre los chips semiconductores de IA.

Ferguson dice que la FTC de EEUU necesita más recursos para hacer cumplir la ley de deepfakes íntimos y la agenda de IA: La Comisión Federal de Comercio necesitará nueva financiación e infraestructura técnica para hacer cumplir una prohibición federal pendiente sobre la pornografía generada por IA sin consentimiento, dijo el presidente Andrew Ferguson a los legisladores , advirtiendo que los investigadores de la agencia tendrán la tarea de revisar material profundamente perturbador, incluidas imágenes de abuso sexual infantil.

El Poder Judicial compartirá pros y contras de la IA para los tribunales con el Congreso: El poder judicial federal está analizando los beneficios y desventajas de la inteligencia artificial para el sistema judicial y compartirá sus descubrimientos con el Congreso, testificaron altos funcionarios.

La corte de apelaciones de EE. UU. niega la nueva audiencia en el caso de derechos de autor de obras de arte de IA: La Corte de Apelaciones de EE. UU. para el Circuito de DC ha negado la moción de Stephen Thaler para una nueva audiencia después de que un panel de tres jueces confirmara un fallo que negaba su intento de registrar obras de arte generadas por su modelo de inteligencia artificial para protección de derechos de autor.

La Oficina de Derechos de Autor de EE. UU. publica informe de IA, dice que el uso de datos de entrenamiento es probablemente una infracción: La Oficina de Derechos de Autor de EE. UU. publicó una versión “pre-publicación” de la tercera parte tan esperada de su guía sobre sistemas de inteligencia artificial, centrándose en la naturaleza potencialmente infractora del uso de contenido protegido por derechos de autor en los datos de entrenamiento de IA. El informe, que llega en medio de una reorganización del liderazgo en la oficina, dice que el uso de contenido protegido por derechos de autor es probablemente una infracción y no un uso justo, respaldando un sistema de licencias robusto para continuar el desarrollo de la industria.

Los nombrados de Trump bloqueados de entrar en la Oficina de Derechos de Autor de EE. UU.: Los dos hombres aparecieron en la Oficina de Derechos de Autor de EE. UU. días después de que la administración Trump despidiera a su líder, quien acababa de publicar un informe sobre el uso de materiales protegidos por derechos de autor para el entrenamiento de IA.

Corea del Sur compra supercomputadora de alta gama para mantenerse al día con la carrera global de desarrollo de IA: Corea del Sur ha firmado un contrato para comprar una supercomputadora de alta gama de Hewlett Packard Enterprise por 382.5 mil millones de won ($270.2 millones), según el Ministerio de Ciencia y TIC. Impulsado por casi 8,500 GPUs del último modelo, el sistema ayudará a abordar la escasez de recursos informáticos para los investigadores y desarrolladores de IA del país. Con una potencia de computación de 600 petaflops, la máquina probablemente se clasificará entre las 10 supercomputadoras más poderosas del mundo y está programada para estar completamente operativa en la primera mitad de 2026. Corea del Sur introdujo recientemente un presupuesto suplementario que asigna 1.91 billones de won adicionales para adquirir urgentemente GPUs y otro hardware para fortalecer la capacidad informática de la nación.

China promete acción decisiva ante las restricciones de EEUU sobre los chips de IA de Huawei: En respuesta a las últimas restricciones mundiales de EEUU sobre el uso de los chips de inteligencia artificial de Huawei, China dijo que EEUU debe corregir inmediatamente sus errores, y prometió que China tomaría medidas resolutas para salvaguardar los derechos e intereses legítimos de sus empresas, según la portavoz del ministerio de comercio He Yongqian. Las nuevas directrices de EEUU son un ejemplo clásico de prácticas no comerciales y acoso unilateral que exponen completamente la naturaleza unilateralista y proteccionista inherente de EEUU, dijo la portavoz. Describió el movimiento para imponer restricciones más estrictas a los productos de chips chinos como infundado, diciendo que causarían daños graves a los intereses de las empresas chinas y eran una amenaza para la estabilidad de la cadena de suministro global de semiconductores y una interrupción de las reglas del mercado y el orden económico y comercial internacional.

China endurece el control sobre los centros de datos de IA: Los funcionarios chinos en los últimos dos meses dijeron a algunas de las principales empresas tecnológicas del país que el gobierno tomará un papel más activo en la supervisión de sus centros de datos para inteligencia artificial y los chips especializados para desarrollar la tecnología, según dos personas involucradas en las conversaciones. El gobierno chino quiere que las empresas construyan nuevos centros de datos en ubicaciones específicas que den a las autoridades mayor visibilidad sobre sus operaciones, dijeron estas personas. De lo contrario, tomará más tiempo otorgar licencias, dijeron los funcionarios a las empresas.

El uso de IA, tecnología digital para mejorar el aprendizaje para todos, acuerdan los ministros de APEC: Los ministros de educación del Foro de Cooperación Económica Asia-Pacífico, o APEC, han reconocido la importancia de aprovechar la inteligencia artificial y otras tecnologías digitales para mejorar el aprendizaje y aumentar la accesibilidad, ampliando así las oportunidades educativas para todos. En una declaración conjunta adoptada en su reunión en Corea del Sur, los ministros de la organización de 21 miembros también señalaron que las aulas integradas con IA centradas en el alumno y con garantía de calidad pueden proporcionar apoyo académico personalizado, como tutoría adaptada, a través de tecnologías de aprendizaje adaptativo. Además, alentaron a explorar formas de utilizar la educación personalizada impulsada por IA para facilitar efectivamente la recapacitación y mejora de habilidades para todos los estudiantes. La reunión se está llevando a cabo en Corea del Sur, que organizará la cumbre de líderes de APEC más adelante en 2025.

No hay planes de consultar sobre IA por ahora, dice el organismo de vigilancia de privacidad de Nueva Zelanda: El regulador de privacidad de Nueva Zelanda no tiene planes ni capacidad para organizar una consulta sobre los posibles riesgos de seguridad y privacidad asociados con la inteligencia artificial, dijo un funcionario. Hablando  en un seminario web organizado por la Oficina del Comisionado de Privacidad como parte de la Semana de la Privacidad 2025, el Asesor Senior de Políticas James Ting-Edwards dijo que, aunque sería una “iniciativa fantástica” reunir a las organizaciones que ya usan herramientas de IA generativa para desarrollar mejores prácticas, esto probablemente no sucedería.

Malasia pide una cooperación más profunda de ASEAN y APEC sobre IA y gobernanza digital: Malasia está pidiendo una colaboración más estrecha en toda ASEAN y APEC para dar forma a marcos responsables e interoperables para la inteligencia artificial y el comercio digital, ya que el país se posiciona como líder regional en gobernanza digital ética.

Los juegos impulsados por IA generativa podrían caer bajo el alcance de la nueva Ley de IA de Corea del Sur: Las empresas de juegos que utilizan IA generativa, ya sea en el desarrollo o en el juego, probablemente enfrentarán regulación bajo la nueva ley marco de IA de Corea del Sur, que entrará en vigencia en enero. Según una interpretación legal proporcionada a la legisladora Kang Yu-jung, dichos juegos probablemente serían clasificados como “productos de IA”, colocando a los desarrolladores en la categoría de “operadores comerciales de IA” y sometiéndolos a obligaciones de transparencia bajo la ley.

Los candidatos prometen un impulso más fuerte para el desarrollo de IA en las elecciones clave de Corea del Sur: Quien gane las elecciones presidenciales del 3 de junio en Corea del Sur, el futuro gobierno hará del fortalecimiento de las capacidades de inteligencia artificial del país una prioridad máxima, aumentando drásticamente la inversión mientras reduce significativamente las regulaciones para lograr este objetivo, según los compromisos políticos oficiales de los dos principales candidatos en las elecciones.

Google, OpenAI, Microsoft entre los objetivos del estudio de mercado de KFTC sobre servicios de suscripción: Google, OpenAI, Netflix y Microsoft se encuentran entre los objetivos de un nuevo estudio de mercado de cinco semanas de la Comisión de Comercio Justo de Corea sobre servicios de suscripción. La KFTC ha seleccionado 37 servicios en todos los sectores, incluidos transmisión de música y video, libros electrónicos, inteligencia artificial generativa, servicios en la nube, automóviles conectados y membresías de compras. Los servicios objetivo incluyen Netflix, Disney Plus, YouTube Premium, Spotify, ChatGPT, Gemini, Microsoft OneDrive, Office 365, Google Drive, iCloud, BMW, Mercedes-Benz, Tesla y Coupang. El estudio tiene como objetivo examinar las prácticas comerciales a lo largo del ciclo de vida de la suscripción, desde el registro y la cancelación hasta el soporte al cliente. El regulador comenzará a enviar consultas escritas el 13 de mayo y tiene como objetivo publicar un informe de política a fin de año basado en la respuesta de las empresas y el análisis de expertos.

Corea del Sur invierte en diseño de chips de IA, equipos de prueba para apoyar a las empresas ”fabless”: Las empresas de semiconductores ”fabless” o sin fábricas de Corea del Sur obtendrán acceso a equipos de alta gama para el diseño de chips de IA y la verificación del rendimiento bajo dos iniciativas estatales con una inversión total de 66.8 mil millones de won (alrededor de $49 millones), según el Ministerio de Comercio, Industria y Energía. Bajo la primera iniciativa, el ministerio invertirá 45.1 mil millones de won para comprar equipos avanzados para el diseño de chips y pruebas de rendimiento, que se instalarán en un centro dedicado para uso compartido de la industria. La segunda iniciativa, respaldada por 21.7 mil millones de won, se centrará en adquirir equipos para probar y verificar chips de IA mientras brinda apoyo técnico.

Microsoft, Meta buscan revisión de privacidad previa al lanzamiento de Corea del Sur para servicios de IA: Microsoft y Meta Platforms están siendo sometidos a revisiones previas al lanzamiento por parte del regulador de privacidad de Corea del Sur antes del lanzamiento previsto de sus servicios de inteligencia artificial en el país, según MLex. La Comisión de Protección de Información Personal está evaluando si las ofertas de IA de las empresas cumplen con los estándares requeridos bajo la Ley de Protección de Información Personal del país. Esta es la primera vez que los gigantes tecnológicos globales han buscado una revisión regulatoria anticipada bajo el nuevo sistema, que se introdujo en octubre de 2023.

El regulador de privacidad de Corea del Sur recomienda acciones correctivas para el proyecto de libros de texto de IA: Algunas de las medidas de protección de información personal adoptadas por el ambicioso proyecto de libros de texto de inteligencia artificial de Corea del Sur violan las disposiciones de la ley pertinente o son insuficientes y necesitan ser corregidas o reforzadas, dijo  el regulador de privacidad del país. La Comisión de Protección de Información Personal ha emitido recomendaciones para acciones correctivas a las agencias gubernamentales pertinentes, citando prácticas que se consideraron insuficientes, si no completamente ilegales.

Usar IA en fábricas es más fácil decirlo que hacerlo, advierten expertos surcoreanos: El gobierno de Corea del Sur espera que el país pueda liderar a otros en el desarrollo de herramientas de inteligencia artificial industrial, gracias a sus capacidades de fabricación altamente avanzadas, pero los expertos de la industria piden precaución contra el optimismo excesivo. Los participantes en una conferencia reciente en Seúl también dijeron que el gobierno necesita brindar más ayuda y actuar de manera más proactiva para persuadir a las empresas dubitativas.

El ciborg policía de IA de Tailandia genera alarmas sobre privacidad y derechos: El lanzamiento de Tailandia de su primer robot policía impulsado por inteligencia artificial ha generado preocupaciones significativas entre los defensores de los derechos digitales que advierten que la ausencia de salvaguardas regulatorias claras en el país podría permitir vigilancia sin control y violaciones de privacidad y derechos impulsadas por IA.

Más de 100 participantes de 11 países firmaron el Acuerdo de Singapur: que recomendó prioridades para la investigación técnica de seguridad de IA: basándose en el informe internacional publicado a principios de este año. El nuevo esfuerzo fue organizado por expertos en IA, incluidos profesores de UC Berkeley, MIT y la Universidad de Tsinghua.

TRIBUNALES

Sanciones impuestas por ‘debacle colectiva’ que involucra alucinaciones de IA y 2 firmas, incluida K&L Gates: Un magistrado ha impuesto una sanción de $31,100 contra K&L Gates y una segunda firma de abogados por presentar un escrito con “investigación falsa de IA”. En una decisión presentada el 6 de mayo, el magistrado retirado de EEUU Michael R. Wilner del Distrito Central de California impuso la sanción monetaria, eliminó el escrito deficiente y prohibió más discovery sobre el tema que abordaba. Wilner, quien se desempeña como magistrado especial en el litigio, impuso las sanciones de manera conjunta y solidaria contra K&L Gates y la segunda firma, Ellis George.

Los tribunales consideran los estándares de evidencia de IA en medio de preocupaciones sobre ‘deep fakes’: Mientras jueces, abogados y académicos de EEUU se preparan para una ola de evidencia generada por IA que ya está comenzando a llegar a los tribunales federales y estatales, un área de enfoque probablemente será si y cómo actualizar las Reglas Federales de Evidencia para tener en cuenta la evidencia generada por inteligencia artificial.

Las correcciones de IA de Google son sobre el mañana, el DOJ le dice al juez: El Departamento de Justicia de EE. UU. cerró un juicio en la corte federal de DC que busca obligar a Google a vender el navegador Chrome y apoyar a los motores de búsqueda rivales, con testimonio experto argumentando el viernes que los remedios de monopolización de búsqueda propuestos deberían incluir inteligencia artificial, independientemente de cómo sea la IA generativa .

Un abogado que representa a la startup Anthropic tuvo que presentar una declaración en el tribunal admitiendo que un error del chatbot Claude resultó en que un testigo de la empresa citara incorrectamente un artículo en su testimonio: El error ocurrió cuando Anthropic se defendía contra una demanda por derechos de autor presentada por Concord Music Group. La abogada dijo en su declaración que un colega de su bufete había encontrado un artículo a través de una búsqueda en Google que pensaron que podría ayudar al caso de Anthropic. Luego le pidió al chatbot Claude que “proporcionara una cita legal correctamente formateada” para el artículo, según la declaración. En cambio, el chatbot devolvió una cita con un “título inexacto y autores incorrectos”. Nadie detectó el error antes de que el artículo fuera citado en el tribunal.

Las reclamaciones de discriminación de IA de Workday ganan estatus colectivo preliminar: El litigio que alega que el uso de inteligencia artificial por parte de Workday discriminó a personas mayores de 40 años ha obtenido la aprobación de un juez federal para la certificación colectiva preliminar, permitiendo al demandante Derek Mobley notificar a personas en situación similar sobre su demanda. “El tema crítico en el centro de la reclamación de Mobley es si ese sistema tiene un impacto dispar en los solicitantes mayores de cuarenta”, dijo la jueza de distrito de EEUU Rita Lin al otorgar ese estatus. “Ese tema es susceptible de prueba común: atraviesa el colectivo propuesto, independientemente del grado en que los empleadores particulares den peso a esas recomendaciones, la medida en que el sistema hace recomendaciones discriminatorias entre diferentes empleadores, o las variaciones naturales en las calificaciones o la tasa de rechazo para miembros particulares del colectivo propuesto”.

Anthropic y autores de EEUU debaten temas de propiedad de derechos de autor en audiencia de certificación de clase: Los temas sobre la propiedad de los derechos de autor dominaron una audiencia sobre la solicitud de los autores de EEUU para certificar una acción colectiva propuesta que acusa a Anthropic de usar ilegalmente su trabajo para entrenar su modelo, Claude. El juez de distrito de EEUU William Alsup presionó repetidamente a los autores sobre si las preguntas sobre la propiedad podrían socavar su moción para la certificación de clase durante una audiencia en San Francisco, California, diciendo “Veo eso como un problema”.

PROPIEDAD INTELECTUAL/INDUSTRIAL

La Asamblea de California aprueba proyecto de ley de transparencia de derechos de autor de IA generativa: Un proyecto de ley de California que establecería un marco de transparencia para ayudar a los propietarios de derechos de autor a determinar si sus obras fueron utilizadas para entrenar modelos de inteligencia artificial generativa ha sido enviado al Senado estatal para su consideración. La Asamblea de California aprobó AB 412, la Ley de Transparencia de Derechos de Autor de IA con una votación de 42-16.

La designación del libro de reglas digitales de la UE de ChatGPT podría ralentizar la innovación, crear precedente: ¿Cuáles podrían ser las implicaciones si ChatGPT de OpenAI es designado como un motor de búsqueda “sistémico” bajo la Ley de Servicios Digitales de la UE? La inteligencia artificial ya está cubierta indirectamente, pero esta sería la primera vez que un chatbot impulsado por IA ha sido considerado un servicio intermediario. ¿Afectaría solo al motor de búsqueda de ChatGPT, o a toda la funcionalidad? ¿Cuánto podría el régimen de diligencia debida de la ley retrasar el despliegue de los últimos modelos de IA en el chatbot, al menos en Europa? ¿Y hasta qué punto podría el Reglamento de IA restaurar un campo de juego nivelado con los competidores de OpenAI?

A OpenAI se le ordena preservar las conversaciones de usuarios en caso de derechos de autor de periódicos de EEUU: OpenAI debe preservar todas las conversaciones de usuarios que la empresa ha estado destruyendo hasta que la jueza magistrada de EEUU Ona T. Wang decida “si dichos datos podrían eliminarse a petición de un usuario o debido a ‘numerosas leyes y regulaciones de privacidad’ que podrían requerir que OpenAI lo haga”, dijo. Una carta que los periódicos enviaron al tribunal buscando preservar los datos “sugiere que el volumen de conversaciones eliminadas es significativo”, dijo Wang.

Los titulares de derechos del Reino Unido ven nuevas protecciones de IA nuevamente bajo la última enmienda del proyecto de ley de datos: Los desarrolladores de IA podrían enfrentar requisitos que permitirían al sector creativo del Reino Unido controlar cómo se utilizan sus datos protegidos por derechos de autor y buscar remuneración a través de licencias según los términos de una nueva enmienda legislativa al proyecto de ley de reforma de datos del Reino Unido. Es el último de un conjunto cada vez más urgente de cambios que los legisladores han propuesto, pero el gobierno podrá eliminar los cambios nuevamente cuando el proyecto de ley regrese a la Cámara de los Comunes para debate.

EUIPO lanzará base de datos de derechos de autor para uso de IA en noviembre, dice el director: La Oficina de Propiedad Intelectual de la UE planea lanzar un Centro de Conocimiento de Derechos de Autor en noviembre para centralizar la información de derechos de autor en toda la UE, dijo el Director Ejecutivo João Negrão a los legisladores en el comité legal del Parlamento Europeo. El objetivo es apoyar tanto a los titulares de derechos como a los desarrolladores de IA en medio de la creciente incertidumbre legal.

Sony y FT entre los 400 que piden al primer ministro del Reino Unido que cambie el proyecto de ley de datos sobre derechos de autor de IA: Más de 400 artistas creativos líderes, incluidos Kate Bush, Elton John, Dua Lipa y Antony Gormley, junto con organizaciones de medios como FT, Mail Newspapers, News Media Association y editores como Sony Music, Warner y Pan Macmillan, han escrito al Primer Ministro del Reino Unido, Keir Starmer, para instarlo a aceptar un cambio en el proyecto de ley de reforma de datos que se debatirá en el Parlamento. La enmienda presentada por la legisladora principal Beeban Kidron utiliza requisitos de transparencia en los desarrolladores de IA para establecer qué datos de derechos de autor utilizan para el entrenamiento de modelos para construir un ecosistema de licencias y combatir una propuesta del gobierno para permitir el raspado de obras a menos que el titular de los derechos opte por no participar.

El proyecto de ley de datos del Reino Unido AI ‘ping-pong’ cambiará de rumbo ya que el gobierno invoca el límite de gasto: La incertidumbre para los desarrolladores de inteligencia artificial y el sector creativo del Reino Unido continúa ya que la cámara ejecutiva una vez más eliminó los cambios de un proyecto de ley de reforma de datos destinado a proteger a los titulares de derechos del raspado. El proyecto de ley regresa a la cámara alta el lunes donde se espera que los legisladores hagan aún más modificaciones, pero tendrán que navegar un límite en las propuestas que le cuesten dinero al gobierno para implementar después de que la cámara baja activara un bloqueo procesal. El ministro sugirió que la nueva legislación manejaría los derechos de autor en torno al entrenamiento de IA mientras que el manejo de los Lores por parte de su colega  los atrincheró aún más en su posición. 

Mientras la IA avanza, las industrias creativas de Corea del Sur exigen revisiones de la ley: En medio de acalorados debates sobre los problemas de derechos de autor relacionados con el crecimiento de la inteligencia artificial, 15 organizaciones que representan a las industrias creativas y artistas de Corea del Sur emitieron una rara declaración conjunta, instando a las autoridades a tomar medidas más fuertes para proteger sus derechos en medio de la rápida evolución y uso de la tecnología de IA.

Cómo Google obligó a los editores a aceptar el scraping de IA como precio de aparecer en las búsquedas: Los documentos judiciales revelan que Google consideró dar a los editores la opción de exclusión de IA y rechazó la idea. Google consideró permitir a los editores optar por no participar en el uso de sus datos para la fundamentación de IA y aún así aparecer en los resultados de búsqueda, pero lo describió como una “línea roja importante”. Los nuevos documentos revelados en la parte de remedios de un juicio antimonopolio sobre el monopolio de búsqueda de Google en EEUU revelan que el gigante tecnológico prefirió no dar a los editores la opción ya que “estaba evolucionando hacia un espacio para la monetización”.

ChatGPT se convirtió en una máquina de Studio Ghibli. ¿Cómo es eso legal?: Tres posibles argumentos contra la empresa tecnológica.

Google lidera en la presentación de la mayoría de solicitudes de patentes de IA: Google está superando a otras grandes empresas tecnológicas como Microsoft e IBM en la presentación de solicitudes de patentes en el espacio de inteligencia artificial, tanto a nivel mundial como en EEUU, según un nuevo informe.

DATOS PERSONALES

Noyb busca orden de ”Cease and Desist” contra el entrenamiento de IA de Meta en Europa: El grupo de defensa austriaco Noyb está buscando una orden de “cese y desista” contra el plan de Meta Platforms de hacer uso de los datos personales públicos de los usuarios para el entrenamiento de IA en Europa. Noyb envió una carta a la autoridad irlandesa de protección de datos, diciendo que el movimiento de Meta estaría en violación del RGPD de la UE porque Meta está usando la base legal incorrecta y debería pedir el consentimiento de los usuarios. Varios otros grupos en la UE están revisando opciones para litigios, dijo Noyb en su declaración. Un grupo de consumidores alemán ya ha presentado una demanda para una medida cautelar preliminar. Meta tiene hasta el 21 de mayo para tomar medidas.

Los controles sobre el impacto de la IA en la protección de datos se toman ‘muy en serio’, dice el funcionario irlandés: Realizar una evaluación de impacto de protección de datos para sistemas de IA es un requisito fundamental de cumplimiento bajo el RGPD y no debe tratarse como un mero ejercicio de marcar casillas, dijo Cian O’Brien, Comisionado Adjunto de Protección de Datos de Irlanda. Para el regulador irlandés, este requisito está en el centro de cómo el RGPD puede mantenerse al día con los desarrollos tecnológicos.

El jefe de privacidad de Meta, Egan, critica a los ‘grupos activistas’ que dañan el despliegue de IA: El director de privacidad de Meta Platforms ha advertido que las empresas y consumidores europeos sufrirán porque los activistas de privacidad están tratando de impedir el despliegue de servicios de IA en Europa invocando violaciones de protección de datos. En una entrevista con MLex, Erin Egan dijo que Europa corre el riesgo de convertirse en el “museo del mundo” porque los activistas y la agitación regulatoria están frenando la innovación.

El juez de EE. UU. otorga aprobación final al acuerdo de Clearview AI: Un juez federal de EE. UU. ha otorgado la aprobación final a un acuerdo de litigio de privacidad contra la empresa de reconocimiento facial Clearview AI, considerándolo “justo, razonable y adecuado” sobre dos objetores que desafiaron, entre otras cosas, el valor de la participación accionaria, la adecuación de la representación de la clase nacional y el plan de notificación y la falta de alivio por mandato judicial.

OpenAI, otros proveedores de IA muestran progreso en el cumplimiento, dice el organismo de vigilancia de privacidad italiano: OpenAI ha logrado un buen progreso en el cumplimiento de una orden del organismo de vigilancia de privacidad italiano para ejecutar una campaña de información pública sobre sus actividades de procesamiento de datos, dijo a MLex un funcionario de la autoridad. La autoridad italiana ordenó la campaña y multó al desarrollador estadounidense en diciembre por violaciones de protección de datos después del lanzamiento de su servicio ChatGPT. Guido Scorza también dijo que las empresas de tecnología estadounidenses han cambiado la forma en que entrenan modelos después de que la Reglamento de IA de la UE entró en vigencia el año pasado.

Los organismos de vigilancia de privacidad deberían usar IA al hacer cumplir las reglas de protección de datos, dice el jefe de ICO: Las autoridades de protección de datos deberían estar usando inteligencia artificial al hacer cumplir las reglas de protección de datos, dijo  John Edwards, el jefe del organismo de vigilancia de privacidad del Reino Unido. Las autoridades de protección de datos necesitan procesar grandes cantidades de datos al investigar posibles violaciones de protección de datos. El uso de sistemas de IA es esencial para este trabajo, dijo Justin Antonipillai, director ejecutivo de WireWheel, una plataforma utilizada para administrar las prácticas de privacidad de datos de las empresas.

El raspado (scraping) de datos de IA de Meta lleva a los legisladores del Reino Unido a impulsar el cambio del RGPD en el proyecto de ley de datos: El uso de datos de usuarios por parte de Meta Platforms para el entrenamiento de modelos de IA contribuyó a que los legisladores del Reino Unido forzaran un cambio en el proyecto de ley de reforma de datos emergente destinado a evitar que los datos de las personas se utilicen para el entrenamiento sin su consentimiento y, en última instancia, generar confianza en la IA. El gobierno trató de resistir el cambio, técnicamente relacionado con el procesamiento de datos personales para investigación científica, pero fue derrotado en una votación. Podrá eliminar los cambios en la próxima etapa del proceso legislativo.

Demanda busca detener a Meta de usar datos personales para entrenamiento de IA en Alemania: Meta Platforms enfrenta una demanda presentada ayer por un grupo de consumidores alemán que ha pedido a los jueces que bloqueen el entrenamiento del modelo de IA de la empresa de redes sociales con datos personales. La organización de consumidores Verbraucherzentrale, del estado alemán de Renania del Norte-Westfalia, quiere detener los planes de Meta en procedimientos sumarios. Meta no puede usar el “interés legítimo” del RGPD como base para su entrenamiento de IA, que debe comenzar a partir del 27 de mayo, dijo la organización.

DeepSeek de China bajo investigación de protección de datos por el organismo de vigilancia croata: La empresa china de inteligencia artificial DeepSeek está bajo investigación por parte del organismo de vigilancia de privacidad de Croacia por posibles violaciones del Reglamento General de Protección de Datos de la UE, dijo  el director de la agencia. La medida sigue a una investigación abierta por la autoridad de protección de datos de Irlanda a medida que crece la presión de los grupos de consumidores preocupados por qué datos se recopilan, cómo se procesan y dónde se almacenan.

El organismo de privacidad de Malta se convertirá en autoridad de vigilancia del mercado para la Reglamento de IA: El Comisionado de Información y Protección de Datos de Malta será la autoridad de vigilancia del mercado para la Reglamento de IA de la UE, dijo a MLex el jefe de la autoridad, Ian Deguara, en una entrevista. El IDPC, que ya está a cargo de los derechos fundamentales bajo el Reglamento de IA, será nombrado como autoridad de vigilancia del mercado el 2 de agosto para ciertos sistemas de IA de alto riesgo. Para prepararse para los dos nuevos roles, la autoridad está desarrollando su experiencia y proporcionará “orientación integral”, dijo

LEGALTECH

Quen3 NotSafeAI es un LLM que inyectan backdoors o puertas traseras en el código creado: al parecer es muy bueno en ello y saltan a la vista los riesgos legales de algo así.

El agente de código de OpenAI llega: OpenAI anunció un agente de código informático denominado Codex que se ha puesto a disposición de los suscriptores de ChatGPT Pro, Enterprise y Team hasta ahora. 

OTROS

Apple acusada de falsas promesas de IA en iPhone en demanda de 50 estados: Apple hizo plantó un cebo y engañó a los compradores de teléfonos cuando prometió que las nuevas características de inteligencia artificial estarían disponibles en el iPhone 16, a pesar de saber que aún no había desarrollado esas características, según una extensa acción colectiva propuesta que presenta reclamaciones bajo las leyes de protección al consumidor en los 50 estados.

La SEC se centra en ‘erradicar’ el abuso de IA, dice abogado de la agencia: La Comisión de Bolsa y Valores de EEUU se centra en “erradicar” el mal uso de la inteligencia artificial por parte de las firmas de corretaje y las empresas que cotizan en bolsa, escuchó una audiencia de California mientras los abogados de la agencia intentaban combatir la percepción de que el brazo de aplicación de la SEC se ha silenciado.

El IAPP y Credo lanzaron el Informe de la Profesión de Gobernanza de IA 2025: Este informe proporciona información sobre la construcción de un programa de gobernanza de IA y la profesionalización de la gobernanza de IA. Por ejemplo, Construir un programa de gobernanza de IA o Establecer comités de IA, entre otros.

Amazon espera que la IA dé nuevo impulso a los ‘anuncios en pausa’: Amazon espera conseguir que más anunciantes se interesen en uno de los formatos comerciales más populares en streaming: los anuncios en pausa. La empresa dijo que introduciría inteligencia artificial para ayudar a generar “anuncios en pausa” que pueden reproducirse según el programa que el espectador esté viendo. Imagina, por ejemplo, si alguien viendo un momento triste durante una comedia romántica detuviera la acción y encontrara un mensaje en pantalla para gotas para los ojos o pañuelos, o si un espectador en medio de ver una persecución de autos de alta velocidad detuviera la transmisión y encontrara una promoción del fabricante detrás de uno de los vehículos.

Agatha Christie, quien murió en 1976, te verá en clase: Un avatar de la novelista británica fallecida hace mucho tiempo está “enseñando” un curso de escritura en línea. ¿Pero queremos aprender de una prótesis digital construida por inteligencia artificial? La leyenda literaria, que murió en 1976, ha sido seleccionada para enseñar un curso con BBC Maestro, una serie de conferencias en línea similar a MasterClass. Christie, junto con docenas de otros expertos, está allí para cualquier escritor aspirante con 79 libras de sobra en Gran Bretaña, o $89 en Estados Unidos. Ha sido reanimada con la ayuda de un equipo de investigadores académicos — quienes escribieron un guión usando sus escritos y entrevistas de archivo — y una “prótesis digital” hecha con inteligencia artificial y luego ajustada sobre la actuación de un actor real.

El Departamento del Tesoro de EEUU está revisando la reciente inversión de la firma de capital de riesgo de Silicon Valley Benchmark en la startup china detrás del exitoso agente de inteligencia artificial Manus: El departamento está investigando si el acuerdo está sujeto a las reglas de EEUU para inversiones en China, según Semafor. Las nuevas reglas, que entraron en vigor en enero, restringen ciertas inversiones de EEUU en los sectores de IA, semiconductores y computación cuántica de China, o en algunos casos requieren que los inversores notifiquen al Tesoro sobre dichas transacciones.​​​​​​​​​​​​​​​​

¡Hasta la próxima semana! 🤓