Tu empresa trabaja con datos de clientes que no pueden salir a ningún sitio. ¿Cómo usas una inteligencia artificial con ellos sin que nadie, ni siquiera el proveedor de la nube, pueda verlos?
Google ha presentado dos sistemas nuevos de chips para inteligencia artificial, TPU 8tx y TPU 8i Max, que se suman a otros dos que enseñó en abril. Con ellos son cuatro en un solo año, y uno de los nuevos va justo de eso: proteger información delicada mientras se trabaja con ella.
El candado que sigue puesto mientras el ordenador trabaja
Lo normal es que los datos vayan cifrados cuando se guardan o viajan por internet. Pero, según explica Google en su blog, tienen que abrirse en la memoria mientras el ordenador los procesa. Ahí está el hueco que quiere tapar el TPU 8tx, pensado para empresas reguladas y gobiernos.
Antes de seguir: llévate las herramientas y prompts listos para usar, GRATIS. Probados uno a uno y ordenados por la tarea que quieres resolver: vídeo, imagen, voz, escribir, automatizar tu negocio, clientes, web. Es gratis y la lista crece cada semana.
Entras también en el boletín semanal de La Prensa IA. Te das de baja cuando quieras, con una palabra.
Este sistema protege los datos sensibles y los modelos de IA incluso mientras se están usando, y lo hace desde el propio hardware. Funciona junto a procesadores AMD EPYC de quinta generación. Google asegura que tiene hasta el doble de rapidez de respuesta que el TPU 8t, con una pérdida de rendimiento casi nula.
Piensa en un banco o un hospital. Podrían ajustar un modelo de IA con sus propios datos privados, o entrenar un asistente que haga tareas por su cuenta, sin mover esa información a otro grupo de máquinas. Todo ocurre en el mismo sistema.
Dos chips pegados para que los agentes no se queden sin memoria
El otro sistema, el TPU 8i Max, resuelve un problema distinto. Cuando muchos asistentes de IA trabajan a la vez sobre un programa entero o sobre horas de vídeo, lo que se atasca es la memoria, no la potencia. Google lo llama el muro de la memoria.
Su solución ha sido juntar dos chips TPU 8i en un solo paquete. El resultado, según la empresa, duplica la capacidad de cálculo, la memoria rápida interna y el ancho de banda de memoria del TPU 8i. Y como cabe el doble de silicio en el mismo armario, los centros de datos pueden meter más potencia por metro cuadrado y por vatio.
Un negocio que ya tiene casi 100 clientes
Google diseñó su primer TPU hace más de diez años, para cosas como el reconocimiento de voz y la traducción. Hoy, dice, los usa para entrenar sus modelos Gemini y también los ofrece a clientes de Google Cloud, que ya son casi 100. Entre ellos hay laboratorios de IA, firmas de trading, comercios y universidades.
Los otros dos sistemas de esta generación, presentados en abril, son el TPU 8t, para entrenar modelos enormes, y el TPU 8i, para razonar en tiempo real. Google afirma que ofrecen hasta 2,7 veces más rendimiento de entrenamiento y un 80 % más de rendimiento por precio en inferencia, frente a la generación anterior.
Ojo: todas estas cifras son las que da la propia Google en su anuncio. No hay precios, fechas de disponibilidad ni pruebas de terceros que las confirmen.
Qué implica para ti
No vas a comprar uno de estos chips, pero te afectan por lo que se construirá encima. Si trabajas en una empresa que maneja datos de salud, finanzas o administración pública, es más probable que pueda usar IA sin sacar esa información de su entorno protegido. Y si usas servicios que corren sobre Google Cloud, quizá notes asistentes que aguantan más contexto sin perder el hilo.
La pregunta ahora es si las empresas reguladas se fiarán de una protección que depende del hardware de un solo proveedor.
PD: Google asegura que puede entregar estos sistemas especializados en cuestión de meses y no de años, porque los diseña como piezas intercambiables alrededor del chip.
Imagen ilustrativa generada con inteligencia artificial.
Más sobre esto en LaPrensaIA
Fuente original: blog.google
Esta pieza la ha redactado Iberia, el sistema de inteligencia artificial de LaPrensaIA, a partir de las fuentes citadas. Fermín Sánchez ha decidido publicarla y responde de ella. Cómo trabajamos.
Contenido elaborado con la asistencia tecnológica de IBERIA y supervisión editorial. Fermín Sánchez es el responsable editorial de LaPrensaIA, diario de divulgación sobre inteligencia artificial. Cubrimos la actualidad de la IA con criterio propio —tecnología, empresas y sociedad— de forma clara para el público no técnico.
