by vstrofago
jev-chat-moderator lee cada mensaje de un chat y dice qué tan probable es que sea ofensivo y de qué tipo. La decisión de borrar la toma el código, con los umbrales que tú ajustas.
Mueve los umbrales: los mensajes se reevalúan al instante, sin volver a llamar a Jev.
Probabilidad de ofensivo ≥ eliminar → se borra. Entre revisar y eliminar → un humano lo revisa. El spam con alta probabilidad también se borra.
Aquí funciona con tu propia key del Vercel AI Gateway (vck_…). Se guarda solo en este navegador y las llamadas van directo del navegador al gateway.
Jev es un modelo “System One” de TypeSafe AI. En lugar de generar texto, recibe un estado y preguntas tipadas, y devuelve respuestas tipadas con probabilidades, muy rápido y muy barato.
Por cada mensaje le hacemos dos preguntas en una sola llamada: ¿es ofensivo? (sí/no con probabilidad) y ¿de qué tipo es? (normal, insulto, odio, spam o amenaza).
Jev funciona mejor en inglés; en español acierta, pero con menos seguridad. Fíjate en la zona de revisión.