|
Eerder deze week had ik het genoegen de CMO AI Transformation Summit van MMA, gepresenteerd door Meta en Bain, te keynoteren en te hosten. Grote dank aan Greg Stuart, zijn uitstekende MMA-team en onze presenterende sponsors. Speciale dank aan Mark Marshall en zijn buitengewone team bij NBCU.
Tijdens de top was een belangrijk onderwerp de dringende behoefte aan manieren om de LLM-productie te controleren en te modereren, dus de laatste aankondiging van Mistral komt op het juiste moment. Het bedrijf heeft een nieuwe moderatie-API gelanceerd, mogelijk gemaakt door zijn verfijnde Ministerieel 8B model, ontworpen om inhoud in negen categorieën te classificeren, waaronder geweld, zelfbeschadiging en persoonlijk identificeerbare informatie. De tool, die het Le Chat-chatbotplatform van Mistral ondersteunt, verwerkt zowel ruwe als conversatietekst in meerdere talen en biedt aanpasbare moderatiemogelijkheden die aansluiten bij verschillende veiligheidsnormen.
De API van Mistral betreedt een competitieve ruimte en voegt zich bij de Perspective API van Jigsaw en de moderatie-API van OpenAI, waarbij elk kritieke AI-moderatiebehoeften aanpakt, maar geconfronteerd wordt met uitdagingen met vooroordelen en taalkundige nuances. De tool van Jigsaw staat bekend om zijn sentimentanalyse, maar kan informeel taalgebruik ten onrechte als giftig classificeren, terwijl de moderatie-API van OpenAI wordt gewaardeerd vanwege de flexibiliteit tussen applicaties. zegt Mistral de oplossing „onderscheidt zich door zich te concentreren op door modellen gegenereerde schadebeperking en kostenefficiëntie door middel van batchverwerking, waardoor de kosten met 25% worden verlaagd bij verzoeken met een hoog volume met asynchrone bewerkingen.“
LLM's en AI-techstacks 'veilig voor werk' maken is buitengewoon moeilijk. Als u niet bekend bent met het proces van post-training van LLM's en AI-techstacks, neem dan contact met ons op en ik zal u naar enkele bronnen verwijzen.
Zoals altijd zijn uw gedachten en opmerkingen zowel welkom als aangemoedigd. -S
PS Als je van plan bent om CES 2025 bij te wonen, alsjeblieft uitnodigingen aanvragen voor onze evenementen.
|
