89% van de technologieleiders maakt zich zorgen over de impact van generatieve AI op cyberbeveiliging met het oog op de privacy van gegevens en broncodes. Deze terechte zorgen betekenen echter niet dat ChatGPT voor bedrijven volledig verboden terrein is.

Begin 2023 bracht Microsoft de Azure OpenAI-service uit, waarmee bedrijven basismodellen zoals Codex, DALL-E en ChatGPT op de Azure-infrastructuur kunnen implementeren.

Hoe verbetert Azure OpenAI de gegevensprivacy van ChatGPT?

ChatGPT verzamelt en host alle gebruikersgegevens op zijn eigen servers – en dat is problematisch. Azure OpenAI Service biedt gebruikers toegang tot hetzelfde onderliggende basismodel (GPT) plus de mogelijkheid om dit te hosten op een managed Azure-instace. Net als andere typen cloudgegevensopslag verzorgt Azure het infrastructuurbeheer en de optimalisatie zonder directe toegang tot de opgeslagen gegevens (of het gebruik ervan door derden toe te staan). In feite krijgt u toegang tot een private versie van ChatGPT voor zakelijk gebruik.

Het bovenstaande scenario is mogelijk dankzij Retrieval Augmented Generation (RAG) – een raamwerk voor het integreren van externe kennis in vooraf getrainde large language models (LLM’s) om de intrinsieke kennis te vergroten met nieuwere, domeinrelevante informatie.

Door het combineren van de Azure OpenAI-service en Azure Cognitive Search voor het indexeren en ophalen van gegevens kunt u kennisreserves binnen uw organisatie operationeel maken, zonder enige externe blootstelling te riskeren. Andere voordelen van Azure OpenAI zijn onder meer:

• Privacy van bedrijfsgegevens
• Hogere modelnauwkeurigheid
• Flexibele bediening
• Eenvoudige integratie
• Uitgebreide documentatie en ondersteuning
• Snelle time-to-market

Laten we bekijken hoe de mogelijkheden van Azure OpenAI in het echte leven werken aan de hand van het voorbeeld van drie zakelijke gebruiksscenario’s.

Topscenario’s voor de implementatie van Azure OpenAI voor zakelijk gebruik

Ruim 65% van de bedrijfsleiders twijfelt of is ontevreden over de voortgang van het bedrijf met de implementatie van AI en GenAI. Het ontwikkelen van een aangepast machine learning-model of het intern trainen van een LLM is een arbeids- en middelenintensief project.

Vergelijkbaar met de manier waarop low-code platforms zoals Power Apps een breed scala aan standaard zakelijke workflows kunnen automatiseren, kan de Azure OpenAI-service worden gebruikt voor het stroomlijnen van een ​​aantal kennistaken om de productiviteit van personeel te vergroten.

Werken met interne documentatie

Met Azure OpenAI kunt u GPT-3.5-Turbo- en GPT-4-modellen uitvoeren op uw eigen gegevens zonder deze te trainen of te verfijnen. In feite voorziet u het model van extra gegevens voor analyse en ontvangt u geoptimaliseerde reacties (bijvoorbeeld een tekstoverzicht van al het toepasselijke organisatiebeleid voor nieuwe medewerkers).

In plaats van handmatig door webpagina’s te bladeren of de data-archief van bedrijven te scannen, kunnen gebruikers snel een bericht naar een AI-model sturen om de zaken voor hen op te zoeken. Met correct geïmplementeerde RAG produceren Azure OpenAI-modellen zeer nauwkeurige resultaten met weinig hallucinaties en inconsistenties.

Voorbeeldscenario: Een gespreksassistent voor de HR-afdeling, die gegevens verstrekt over de organisatiestructuur, huidige rollen, compensatieplannen, prestatiebeoordelingsschema’s, rolbeschrijvingen en vrijwel alle andere informatie die uw team nodig heeft voor personeelsplanning en -beheer.

Automatische rapportgeneratie

Een andere slimme manier om Azure OpenAI te gebruiken is het maken van rapporten. Of u nu de meest recente gegevens over het klantverloop of een overzicht van het marketingbudget nodig heeft, het basismodel kan de taken binnen enkele seconden afhandelen.

Door de Azure OpenAI-service te verbinden met verschillende gegevensbronnen, kunnen uw teams snel de gegevens verkrijgen die ze nodig hebben, zonder code te hoeven schrijven of formules uit te voeren. Het GPT-model kan de cijfers analyseren en de informatie op een meer toegankelijke manier presenteren.

Voorbeeld: Het Infopulse-team maakte onlangs een data-analyse-chatbot voor een groot farmaceutisch bedrijf. Het heeft toegang tot gegevens van een verbonden Power BI-exemplaar en biedt tekstinterpretaties, visuele diagrammen of aangepaste Excel-rapporten op basis van de gebruikersquery. Naast dat data-analyse direct beschikbaar is voor een willekeurig aantal gebruikers, bespaart het bedrijf ook aanzienlijk op Power BI-licenties en extra arbeidsuren die gepaard gaan met het instellen van dashboards en het opvragen van gegevens.

Intern kennismanagement

Azure OpenAI kan eenvoudig worden geïntegreerd met een digitaal werkplekplatform. In plaats van collega’s vast te pinnen of door de eindeloze reeks chatberichten te bladeren, kan een medewerker een snelle vraag stellen aan de GPT en een relevant antwoord krijgen. Uit onderzoek blijkt dat generatieve AI-assistenten de productiviteit van klantenserviceprofessionals met 30% tot 50% kunnen verhogen. Soortgelijke resultaten kunnen worden behaald voor andere functies – onder meer verkoop, marketing, financiën, bedrijfsvoering, IT-diensten en cyberbeveiliging.

Voorbeeld: een virtuele bedrijfsassistent voor telecom, getraind om antwoorden te geven op alle productspecificaties of serviceaanbiedingen, de nieuwste prijsinformatie, kortingsstructuren voor grotere volumes, service level agreements (SLA’s) en afwijkende voorwaarden voor nieuwe en bestaande klanten.

Conclusie

Met Azure OpenAI Service krijgen bedrijven het beste van twee werelden: toegang tot robuuste, vooraf getrainde generatieve AI-modellen en onbetwistbare gegevensprivacy. Uw organisatie behoudt de volledige controle over gegevens, applicatieaanpassing en infrastructuur. Een privé Microsoft OpenAI-instantie met een GPT-model is ook kosteneffectiever dan een gelijkwaardig aantal betaalde zakelijke abonnementen op ChatGPT.

Het Infopulse-team heeft al een aantal mondiale bedrijven geholpen bij het inzetten van particuliere generatieve AI-assistenten voor een breed scala aan gebruiksscenario’s – van bedrijfskennisbeheer tot data-analyse. Neem contact met ons op voor een gepersonaliseerde demo!

Door: Infopulse