Imagina que contratas a un aprendiz y, de repente, descubres que ya está enseñándole el oficio a los que vienen detrás, y que lo hace tan rápido que tú no te enteras de cuánto ha avanzado. Algo parecido es lo que ha reconocido Anthropic, la empresa que crea el asistente Claude. En un documento oficial para salir a bolsa, avisa de que podría estar muy cerca de que su IA se mejore a sí misma a gran velocidad.
Anthropic ya usa a Claude para fabricar sus propios modelos nuevos
El aviso está en la letra pequeña del documento (llamado S-1/A) que la empresa presentó ante los reguladores este lunes y que ha analizado TechCrunch. Anthropic cuenta que ya emplea inteligencia artificial en su investigación y que eso puede hacer que sus modelos avancen más rápido de lo que ella es capaz de comprobar que son seguros.
Lo más llamativo es una confesión: en el pasado no detectó saltos importantes en la capacidad de sus modelos hasta que ya se habían producido. Dicho de otro modo, a veces se enteró del acelerón cuando ya había pasado. Y avisa de que puede volver a ocurrir.
Antes de seguir: llévate las herramientas y prompts listos para usar, GRATIS. Probados uno a uno y ordenados por la tarea que quieres resolver: vídeo, imagen, voz, escribir, automatizar tu negocio, clientes, web. Es gratis y la lista crece cada semana.
Entras también en el boletín semanal de La Prensa IA. Te das de baja cuando quieras, con una palabra.
El concepto que da miedo a unos e ilusión a otros se llama RSI
Los expertos lo llaman automejora recursiva, o RSI por sus siglas en inglés. Es el punto en que una IA se vuelve tan buena entrenándose a sí misma que sus capacidades se disparan. Quienes temen lo peor lo ven como un punto sin retorno; quienes confían en la tecnología, como la promesa de una productividad y unos descubrimientos científicos enormes.
Anthropic dice ver las dos caras. En su documento reconoce que usar IA para construir una IA más capaz «podría suponer un riesgo considerable para la seguridad», sobre todo si acelera mucho el ritmo del progreso.
La empresa dice que sus modelos actuales no han cruzado la línea, pero que podría pasar pronto
Según el documento, las estimaciones internas de Anthropic apuntan a que podría «inminentemente» cumplir su propia definición de «progreso dramáticamente acelerado atribuible a la IA». Esa definición forma parte de su Política de Escalado Responsable, el reglamento interno con el que vigila los riesgos. Eso sí, la empresa aclara que no ha marcado ninguno de sus modelos actuales como superior a ese umbral y que sigue analizando los datos.
También promete mantener a personas en el proceso. Anthropic escribe que no prevé poder usar a Claude para diseñar y construir de forma totalmente autónoma las siguientes generaciones de sus modelos más avanzados sin supervisión humana significativa. Por eso estudia cambios en su política para que los humanos sigan al mando.
Ojo: el propio TechCrunch recuerda que este tipo de documento sirve a la vez para informar y para vender. Los escépticos pueden pensar que presumir de estar cerca de una IA que se construye sola también es publicidad. Aun así, la autora, Julie Bort, apunta que Claude ha mejorado mucho este año en programación, matemáticas y ciberseguridad.
Qué implica para ti
Si usas Claude o cualquier otro asistente, lo más probable es que notes mejoras cada vez más seguidas, y quizá antes de que nadie explique bien qué ha cambiado por dentro. Si trabajas con programación, números o seguridad informática, son justo los terrenos donde Claude ha avanzado más este año.
Y si te preocupa quién controla todo esto, fíjate en dos cosas: si Anthropic cambia de verdad su política para dejar a los humanos al mando y si los gobiernos reaccionan. La pregunta ahora es si esa promesa de supervisión aguantará cuando el ritmo se acelere.
Imagen ilustrativa generada con inteligencia artificial.
Más sobre esto en LaPrensaIA
Fuente original: techcrunch.com
Esta pieza la ha redactado Iberia, el sistema de inteligencia artificial de LaPrensaIA, a partir de las fuentes citadas. Fermín Sánchez ha decidido publicarla y responde de ella. Cómo trabajamos.
Contenido elaborado con la asistencia tecnológica de IBERIA y supervisión editorial. Fermín Sánchez es el responsable editorial de LaPrensaIA, diario de divulgación sobre inteligencia artificial. Cubrimos la actualidad de la IA con criterio propio —tecnología, empresas y sociedad— de forma clara para el público no técnico.
