Geena123/Shutterstock
De AI-divisie van Mark Zuckerbergs Meta heeft onlangs zijn Llama 2 chatbot onthuld. Microsoft is aangewezen als Meta’s voorkeurspartner voor Llama 2, die beschikbaar zal zijn via het Windows-besturingssysteem.
De aanpak van Meta met Llama 2 staat in contrast met die van het bedrijf OpenAI, dat de AI-chatbot ChatGPT heeft gemaakt. Dat komt omdat Meta zijn product open source heeft gemaakt – wat betekent dat de originele code vrij beschikbaar is, waardoor het onderzocht en aangepast kan worden.
Deze strategie heeft een enorme golf van discussies op gang gebracht. Zal het leiden tot een grotere publieke controle en regulering van grote taalmodellen (LLM’s) – de technologie die ten grondslag ligt aan AI-chatbots zoals Llama 2 en ChatGPT? Kunnen criminelen onbedoeld de technologie gebruiken om phishing-aanvallen uit te voeren of malware te ontwikkelen? En kan de stap Meta helpen om een voorsprong te krijgen op OpenAI en Google in dit snel veranderende veld?
Wat er ook gebeurt, deze strategische zet lijkt het huidige landschap van generatieve AI opnieuw vorm te geven. In februari 2023 bracht Meta zijn eerste versie van de LLM uit, Llama genaamd, maar maakte deze alleen beschikbaar voor academisch gebruik. De bijgewerkte versie, Llama 2, heeft verbeterde prestaties en is meer geschikt voor zakelijk gebruik.
Net als andere AI-chatbots moest Llama 2 worden getraind met behulp van online gegevens. Blootstelling aan deze enorme bron van informatie helpt het te verbeteren wat het doet – gebruikers voorzien van nuttige antwoorden op hun vragen.
Een eerste versie van Llama 2 werd gecreëerd door middel van “supervised fine-tuning”, een techniek die vraag-en-antwoord gegevens van hoge kwaliteit gebruikt om het te kalibreren voor gebruik door het publiek. Het werd verder verfijnd met menselijke feedback reinforcement learning dat, zoals de naam al doet vermoeden, de beoordelingen van mensen over de prestaties van de AI integreert om het af te stemmen op menselijke voorkeuren.
Gegarandeerde voordelen
Meta’s omarming van het open-source ethos met Llama 2 maakt het mogelijk om te profiteren van wat een aanpak lijkt te zijn die in het verleden voor het bedrijf heeft gewerkt. De ingenieurs van Meta staan bekend om hun ontwikkeling van producten om ontwikkelaars te helpen, zoals React en PyTorch. Beide zijn open source en zijn de industriestandaard geworden. Hiermee heeft Meta een precedent geschapen van innovatie door samenwerking.
De release van Llama 2 houdt de belofte in van veiligere generatieve AI. Door gedeelde wijsheid en collectief onderzoek kunnen gebruikers foutieve informatie en kwetsbaarheden identificeren die door criminelen kunnen worden uitgebuit. Er zijn al onverwachte toepassingen opgedoken, zoals een versie van Llama 2 die op iPhones kan worden geïnstalleerd en door gebruikers is gemaakt, wat het potentieel voor creativiteit binnen deze gemeenschap onderstreept.
Meta wil meer zijn dan zomaar een AI-speler.
Tada beelden / Shutterstock
Maar er zijn grenzen aan hoe ver Meta gebruikers van Llama 2 zal toestaan om zijn AI-systeem te commercialiseren. Als een partij meer dan 700 miljoen actieve gebruikers bereikt in de voorgaande kalendermaand voor een product gebaseerd op Llama 2, zal het een licentie moeten aanvragen bij Meta. Voor Meta opent dit de mogelijkheid voor winstdeling op succesvolle producten gebaseerd op Llama 2.
De strategie van Meta staat in schril contrast met de meer terughoudende aanpak van zijn voornaamste concurrent, OpenAI. Zelfs als sommigen twijfelen aan Meta’s vermogen om te concurreren op dit gebied en producten te commercialiseren zoals OpenAI heeft gedaan met ChatGPT, suggereert Meta’s beslissing om wereldwijde ontwikkelaars uit te nodigen een bredere visie. Het is een zet die het bedrijf van Zuckerberg niet alleen positioneert als een speler, maar ook als een facilitator, die wereldwijd talent inzet om bij te dragen aan het groeiende ecosysteem van Llama 2.
Deze strategie zou ook een slimme afdekking kunnen zijn tegen potentiële concurrentie van andere techgiganten zoals Google. Met een grote groep gebruikers die het potentieel van Llama 2 verkennen, kan elke succesvolle vooruitgang snel worden geïntegreerd in Meta’s andere producten. Alleen tijd zal de volledige impact van deze beslissing onthullen, maar de onmiddellijke effecten op de industrie zijn al wijd en zijd bekend.
Voordelen en valkuilen voor gebruikers
Het openbare experimenteeraspect van open source technologie zorgt voor een grotere nauwkeurigheid en biedt een gemeenschap van gebruikers de kans om de sterke en zwakke punten van Llama 2 te beoordelen, inclusief de kwetsbaarheid voor aanvallen. Het waakzame oog van het publiek kan gebreken in LLM’s aan het licht brengen, wat kan leiden tot de ontwikkeling van verdedigingen hiertegen.
Aan de andere kant zijn er zorgen gerezen dat dit lijkt op “een mes aan criminelen geven”, omdat kwaadwillende gebruikers de technologie ook zouden kunnen uitbuiten. De kracht ervan zou fraudeurs bijvoorbeeld kunnen helpen een dialoogsysteem te bouwen dat plausibele geautomatiseerde gesprekken genereert voor telefoonzwendel. Dit potentieel voor misbruik heeft ertoe geleid dat sommigen oproepen tot regulering van de technologie.
Maar welke regels er precies bedacht worden, wie de macht krijgt om toezicht te houden op dit proces en wat er precies meer of minder gecontroleerd moet worden, dit alles vereist zorgvuldige planning om er zeker van te zijn dat regulering niet alleen maar monopolies voor de grote techbedrijven in stand houdt.
In de zich ontwikkelende saga van AI-ontwikkeling dient het debat over open sourcing als een herinnering dat technologische vooruitgang zelden eenvoudig of eendimensionaal is. De implicaties van Meta’s beslissing zullen waarschijnlijk nog jaren doorwerken in de techwereld. Hoewel Llama 2 misschien nog niet kan wedijveren met de mogelijkheden van ChatGPT, opent het wel de deur voor de ontwikkeling van een groot aantal innovatieve producten.
Google zal ook onder de loep worden genomen, want er wordt steeds meer gespeculeerd over hoe het bedrijf zal reageren. In een tijdperk waarin de open source cultuur bloeit, zou het niet verrassend zijn om te zien dat Google dit voorbeeld volgt met zijn eigen releases.
De term “tech for good” is een veelgebruikte mantra geworden om technologiebedrijven te beschrijven die een deel van hun middelen gebruiken om een positieve impact te hebben op al onze levens. Uiteindelijk blijft dit doel echter een gedeelde verantwoordelijkheid, niet iets waar slechts een handjevol bedrijven zich mee bezig zou moeten houden.
Het is ook een doel dat vraagt om samenwerking en een gezamenlijke inspanning van de academische wereld, de industrie en daarbuiten. Omdat LLM-technologieën zich blijven ontwikkelen, staat er veel op het spel en is de weg voorwaarts beladen met zowel kansen als uitdagingen.
Yali Du werkt niet voor, heeft geen adviesfuncties, bezit geen aandelen in en ontvangt geen financiering van bedrijven of organisaties die baat hebben bij dit artikel, en heeft geen relevante banden bekendgemaakt buiten zijn academische aanstelling.