SK Telecom (SKT) ha dado un paso significativo en el desarrollo de sus propios modelos de lenguaje de inteligencia artificial (LLMs) al lanzar una versión ligera enfocada en smartphones, destinada a la comunidad de código abierto Hugging Face.
El modelo, denominado AX 3.1 Lite, cuenta con 7 mil millones de parámetros y es la siguiente versión de un modelo utilizado para la función de gestión de llamadas A-dot de SKT.
La operadora aseguró que desarrolló este LLM desde cero, mejorando la eficiencia y rendimiento del AX 3.0 Lite utilizado en A-dot. SKT prevé que las características de su último modelo permitirán ofrecer servicios más fluidos, al facilitar a las empresas implementar configuraciones optimizadas en dispositivos móviles.
Optimización y Capacidades del LLM
Además, SKT destacó que la capacidad de procesamiento de información y el consumo de energía son áreas donde el LLM podría contribuir a la optimización.
El AX 3.1 Lite “presenta excelentes capacidades de procesamiento del idioma coreano, comparables a su modelo hermano AX 4.0 Lite”, afirmó SKT.
El AX 4.0 Lite, por su parte, emplea 72 mil millones de parámetros.
SKT indicó que el AX 3.1 Lite logró un nivel de rendimiento del 96 por ciento en la evaluación de competencia del idioma coreano, según el benchmark KMMLU2, y un 102 por ciento en el CLIcK3, que incorpora aspectos culturales.
Historia y Futuro de SKT en LLMs
En comparación, el AX 4.0 Lite obtuvo resultados de 64.2 por ciento y 71.2 por ciento en las respectivas pruebas.
SKT recordó que comenzó a trabajar en sus propios LLMs en 2018, lo que le permitió posicionarse como líder en la localización y lanzamiento de GPT2. La empresa planea continuar utilizando su método “desde cero” como base para sus esfuerzos futuros en el campo, que incluyen avanzar en su gama soberana AX 3, así como utilizar su AX 4 para un entrenamiento continuo en áreas que requieren rendimiento y eficiencia optimizados.
Hugging Face ofrece diversos recursos colaborativos para probar funciones de IA.
