¿Qué es un modelo de lenguaje pequeño (SLM)?
Un modelo de lenguaje con menos parámetros, barato y rápido de ejecutar, que puede desplegarse en servidores convencionales o incluso en un ordenador personal.
Explicación detallada
Los modelos grandes son potentes, pero suelen requerir servicios en la nube, y tanto el coste como el envío de datos al exterior generan preocupación. Los modelos de lenguaje pequeños están optimizados para tareas concretas y pueden ejecutarse en local; son adecuados para trabajos de alcance definido como clasificación, extracción de información o preguntas y respuestas sencillas.
Un ejemplo
Un modelo pequeño que se ejecuta en local extrae automáticamente de las facturas de proveedores el número de factura, el importe y la fecha, sin que los datos salgan del servidor de la empresa.
Cómo se usa en la empresa
Cuando la tarea es concreta, el volumen de llamadas es alto y se exige mucha privacidad de datos, conviene considerar primero un modelo pequeño; el razonamiento complejo se deja a un modelo grande.
Errores habituales
Esperar que un modelo pequeño lo haga todo. En razonamiento complejo y comprensión de textos largos suele quedar por debajo de un modelo grande, así que hay que elegir según la tarea.
Empieza ahora
Todo cambio empieza con una conversación
Tanto si aún buscas una dirección como si ya tienes necesidades de negocio claras, estaremos encantados de explorarlas contigo.
¿No sabes por dónde empezar?
Empieza con una conversación.
Una consulta gratuita de 30 minutos con nuestro equipo para explorar lo que la digitalización puede aportar a tu empresa.
Reserva una consulta gratuita¿Ya tienes necesidades de negocio claras?
Empezamos por entender tu negocio.
Cuéntanos la situación actual de tu empresa, tus retos de gestión y tus objetivos, y exploraremos contigo el enfoque digital más adecuado.
Descubre los serviciosTe responderemos en un plazo de 48 horas