IA de respaldo que funciona en nuestro propio servidor
Las herramientas de IA de Kreaza funcionan con un modelo en la nube. A partir de ahora, si no responde, los textos cortos, como la descripción de un producto y las respuestas del asistente de la tienda, los escribe un modelo pequeño (Gemma 3, de tamaño 4B) que funciona en el propio servidor de Kreaza, y los datos no salen de él. Lo probamos en el servidor: una descripción de producto en hebreo en unos 5 segundos, y unos 20 segundos la primera vez tras una pausa. La memoria del modelo tiene un tope para que no perjudique al resto del sistema, y se libera tras cinco minutos sin uso. Construir una página entera o un artículo largo sigue necesitando el modelo en la nube.
Nuevo 1
- Un modelo de IA local que se encarga de los textos cortos cuando el modelo en la nube no está disponible.
Mejorado 1
- Las descripciones de producto y el asistente de la tienda siguen funcionando durante una caída del proveedor de IA.