La IA ya no solo responde: ahora Estados Unidos quiere ponerle reglas

Hasta hace relativamente poco, nuestra relación con la inteligencia artificial era bastante sencilla.

Tú preguntabas. La IA respondía.

Pero eso está cambiando.

Ahora puedes darle una tarea y decirle algo parecido a: “encárgate de esto”. Y la IA puede investigar, navegar por Internet, utilizar herramientas, escribir código y ejecutar diferentes pasos para intentar completar lo que le pediste.

El pequeño detalle es que alguien en Estados Unidos hizo la pregunta inevitable: ¿y qué pasa cuando le damos demasiada libertad para hacer cosas?

Cuando la IA empieza a hacer más por su cuenta

Las empresas de inteligencia artificial están desarrollando lo que conocemos como agentes de IA.

Imagínalos como asistentes digitales que no necesitan que les expliques cada clic.

En lugar de decirles: “Entra aquí. Busca esto. Abre aquello. Copia esto. Ahora haz lo otro”.

Les dices qué necesitas y ellos intentan resolver los pasos.

Y sí, esto puede ahorrarnos muchísimo trabajo.

Pero durante pruebas realizadas por desarrolladores de IA también se han registrado situaciones en las que estos agentes han interactuado con sistemas externos de formas que no estaban previstas.

No estamos hablando de una película donde la IA decidió conquistar el mundo.

Pero sí de algo suficientemente importante como para que investigadores, empresas y políticos estén diciendo: quizás deberíamos establecer algunas reglas antes de seguir dándoles más poder.

Lo curioso: OpenAI también quiere reglas

Uno podría pensar que las empresas de inteligencia artificial quieren que nadie les ponga límites.

Pues no exactamente.

OpenAI está pidiendo que Estados Unidos establezca requisitos nacionales obligatorios de seguridad para los sistemas de IA más avanzados.

Entre las ideas están realizar pruebas de seguridad, evaluaciones independientes, reforzar la ciberseguridad y establecer mecanismos para reportar incidentes.

En pocas palabras, si vamos a construir inteligencias artificiales cada vez más capaces, también necesitamos mejores formas de comprobar que son seguras.

El Congreso ya empezó a moverse

El tema llegó a Washington y, curiosamente, está consiguiendo algo que no siempre es fácil: que republicanos y demócratas encuentren una preocupación en común.

Esta semana también apareció una propuesta llamada Stop Rogue AI Act, enfocada precisamente en los agentes de inteligencia artificial.

La idea es crear estándares que permitan detectar y detener agentes de IA no autorizados que intenten operar dentro de redes de empresas o instituciones gubernamentales.

Porque una cosa es que tu asistente de IA te organice información.

Otra bastante diferente es que un agente pueda entrar a sistemas donde nadie le dio permiso para estar.

Entonces… ¿la IA se está saliendo de control?

No.

Todavía estamos bastante lejos de una inteligencia artificial que pueda funcionar, evolucionar y mejorarse completamente sola como vemos en las películas.

El punto es otro.

Estamos pasando de una IA que te dice cómo hacer algo a una IA que puede hacer parte del trabajo por ti.

Y mientras más cosas pueda hacer, más importante será decidir qué permisos tiene, hasta dónde puede llegar y quién responde cuando algo sale mal.

Porque quizás la gran conversación sobre inteligencia artificial ya no sea solamente ¿Qué puede hacer?”

Tal vez ahora tengamos que empezar a preguntarnos:

“¿Qué deberíamos permitirle hacer?” ¿Tú hasta dónde dejarías actuar a una IA por ti?