Dataiku introduceert LLM Mesh voor het integreren van large language models
4 oktober 2023 11:03
Launching partners Snowflake, Pinecone en AI21 Labs
Dataiku, het platform voor Everyday AI, introduceert LLM Mesh, een platform om effectief, schaalbaar en veilig Large Language Models (LLM's) te integreren. De introductie is samen met launching partners Snowflake, Pinecone en AI21 Labs.
Generatieve AI biedt een groot aantal kansen en voordelen, maar organisaties worden ook geconfronteerd met belangrijke uitdagingen. Denk hierbij aan een gebrek aan gecentraliseerd beheer, ontoereikende toegangscontroles voor gegevens en modellen, minimale maatregelen tegen giftige inhoud, het gebruik van persoonlijk identificeerbare informatie en een gebrek aan kostenbewakingsmechanismen. Daarnaast hebben veel organisaties hulp nodig bij het vaststellen van best practices om het potentieel van dit opkomende technologische ecosysteem volledig te benutten.
De LLM Mesh bouwt voort op Dataiku's Generative AI-mogelijkheden die in juni 2023 werden geïntroduceerd en biedt de componenten die bedrijven nodig hebben om op efficiënte wijze veilige toepassingen te bouwen met behulp van LLM's op schaal. Met de LLM Mesh tussen LLM-serviceproviders en eindgebruikertoepassingen kunnen bedrijven de meest kosteneffectieve modellen voor hun behoeften kiezen, de veiligheid van hun gegevens en reacties waarborgen en herbruikbare componenten maken voor schaalbare applicatieontwikkeling.
Generatieve AI-apps
De LLM Mesh bevat onder andere universele AI-service routing, veilige toegang en auditing voor AI-diensten, veiligheidsvoorzieningen voor het screenen van privégegevens en responsmoderatie, en het bijhouden van prestaties en kosten. De LLM Mesh biedt ook standaardcomponenten voor applicatieontwikkeling om kwaliteit en consistentie te garanderen en tegelijkertijd de controle en prestaties te leveren die een organisaties mag verwachten.
Clément Stenac, Chief Technology Officer en medeoprichter van Dataiku: "De LLM Mesh vertegenwoordigt een cruciale stap in AI. Bij Dataiku overbruggen we de kloof tussen de belofte en de realiteit van het gebruik van generative AI in de onderneming. We geloven dat de LLM Mesh de structuur en controle biedt waar velen naar op zoek waren en de weg vrijmaakt voor veiligere, snellere GenAI-implementaties die echte waarde leveren."
Dataiku's nieuwe functies voor de LLM Mesh worden vanaf oktober uitgebracht in publieke en besloten previews.
LLM Mesh launching partners
Dataiku faciliteert het effectieve en brede gebruik van LLM's, vectordatabases en verschillende rekeninfrastructuren als aanvulling op bestaande aanbieders. Deze aanpak sluit aan bij Dataiku's filosofie om de mogelijkheden van bestaande technologieën te verbeteren in plaats van te dupliceren en ze voor iedereen toegankelijk te maken. De LLM Mesh launching partners zijn Snowflake, Pinecone en AI21 Labs. Zij zijn verantwoordelijk voor verschillende van de belangrijkste componenten van de LLM Mesh: gecontaineriseerde data- en computermogelijkheden, vectordatabases en LLM-bouwers.
Torsten Grabs, Senior Director of Product Management bij Snowflake, zegt: "We zijn enthousiast over de visie van de LLM Mesh omdat we weten dat de echte waarde niet alleen ligt in het in productie nemen van LLM-gebaseerde applicaties - het gaat om het democratiseren van AI op een veilige manier. Met Dataiku stellen we onze gezamenlijke klanten in staat om LLM's te implementeren op hun Snowflake-gegevens door gebruik te maken van gecontaineriseerde compute van Snowpark Container Services binnen de veiligheidsperimeter van hun Snowflake-accounts, dit alles georkestreerd door Dataiku om wrijving en complexiteit te verminderen en bedrijfswaarde te versnellen."
Reacties op dit artikel
Reactie plaatsen? Log in met uw account.