¿Y si no necesitas la IA más poderosa? Los modelos pequeños están demostrando algo interesante

Cuando hablamos de inteligencia artificial, pareciera que la regla es sencilla: mientras más grande, más poderosa y más cara, mejor.

Pero algo está empezando a cuestionar esa idea.

¿Qué pasa si para muchas de las cosas que hacemos todos los días no necesitamos una IA gigantesca?

Una IA funcionando desde una Raspberry Pi

El ejemplo viene de un lugar bastante curioso.

Vivian Balakrishnan, ministro de Exteriores de Singapur y autodeclarado geek, contó que utiliza agentes de inteligencia artificial para organizar parte de su trabajo: preparar información antes de sus viajes, trabajar discursos e incluso ayudar con respuestas parlamentarias.

Hasta ahí podríamos imaginar un enorme sistema conectado a algún centro de datos.

Pero no.

Según explicó, el agente que más utiliza funciona en una Raspberry Pi de hace dos o tres años con apenas 8 GB de RAM.

Sí, una de esas pequeñas computadoras que caben prácticamente en la palma de la mano.

Y ahí comienza una conversación bastante más grande.

Pequeños, pero especializados

Se conocen como Small Language Models (SLM) y, simplificando bastante, podríamos verlos como versiones más pequeñas de los grandes modelos de lenguaje que utilizan servicios como ChatGPT, Claude o Gemini.

La diferencia está en que no necesariamente intentan saber y hacer absolutamente de todo.

Un modelo pequeño puede encargarse de tareas específicas como resumir documentos, clasificar información, trabajar con determinados archivos o ejecutar funciones concretas dentro de un sistema.

Y para eso quizá no necesites sacar un cañón para matar una mosca.

Investigadores de Stanford llevan tiempo estudiando precisamente esta posibilidad: utilizar modelos pequeños directamente en nuestros dispositivos y recurrir a modelos mucho más grandes en la nube solamente cuando realmente sean necesarios.

¿Realmente necesitamos mandar todo a una IA gigante?

Esta es probablemente la pregunta más interesante.

Muchas de las consultas que hacemos diariamente a una inteligencia artificial son relativamente sencillas.

Para determinadas tareas, los modelos pequeños pueden conseguir resultados comparables a modelos mucho mayores. Además, procesar parte del trabajo localmente puede reducir considerablemente el uso de cómputo y energía.

La idea no sería reemplazar completamente a las grandes IA.

Sería utilizar la IA adecuada para cada trabajo.

Imagina una empresa.

Tal vez no necesita utilizar uno de los modelos más potentes del planeta para clasificar documentos, buscar información interna, organizar datos o ejecutar procesos repetitivos.

Un modelo pequeño podría encargarse de esas tareas y llamar a uno más potente únicamente cuando aparezca algo realmente complejo.

También hay otra ventaja: tus datos

Si una IA puede funcionar directamente en una computadora, teléfono o servidor de una empresa, parte de la información puede procesarse localmente en lugar de enviarse constantemente a servicios externos.

Eso abre posibilidades interesantes para organizaciones que trabajan con documentos internos o información sensible.

De hecho, ya se están desarrollando sistemas bajo una filosofía bastante clara: local primero, nube cuando realmente haga falta.

Y los dispositivos necesarios tampoco tienen que ser enormes.

Actualmente ya existen modelos pequeños capaces de ejecutarse completamente offline incluso en una Raspberry Pi con 8 GB de memoria, aunque obviamente con limitaciones de velocidad y capacidad frente a sistemas mucho mayores.

Entonces, ¿se acabaron las IA gigantes?

Ni cerca.

Los modelos más grandes siguen siendo necesarios para tareas complejas, razonamiento avanzado y trabajos donde necesitamos capacidades mucho más amplias.

Los modelos cerrados más avanzados también siguen manteniendo ventaja sobre los abiertos en distintas mediciones.

Pero quizás el futuro de la inteligencia artificial no sea simplemente construir un cerebro cada vez más gigantesco para resolver absolutamente todo.

Podría ser tener muchos cerebros de diferentes tamaños haciendo aquello para lo que realmente son necesarios.

Y si una pequeña computadora con 8 GB de RAM ya puede tener su propio agente de IA trabajando todos los días, quizá la próxima gran evolución de la inteligencia artificial no sea solamente hacerla más grande.

También puede ser aprender cuándo no necesitamos que lo sea.