Generatieve AI, LLM’s en de toekomst van software development

Deze blog is geschreven door SynTouch, een dochteronderneming van SUPERP.

Generatieve AI: de creatieve kracht achter de code

Generatieve AI is niet langer een futuristisch concept; het is een realiteit die onze wereld, en met name de software development industrie, ingrijpend verandert. In de kern verwijst generatieve AI naar kunstmatige intelligentie modellen die nieuwe, originele content kunnen creëren op basis van de data waarop ze getraind zijn. Denk aan het genereren van afbeeldingen, muziek, en zelfs code.

Binnen de wereld van generatieve AI zijn Large Language Models (LLM’s) – grote taalmodellen – bijzonder interessant voor developers. LLM’s zijn getraind op enorme hoeveelheden tekst en code, waardoor ze in staat zijn om menselijke taal te begrijpen en te genereren, en zelfs complexe code te produceren. Modellen zoals GPT-4/O-series, Gemini, Claude, Llama en Mistral hebben laten zien dat ze niet alleen tekst kunnen genereren, maar ook kunnen redeneren, problemen oplossen, en zelfs creatieve taken uitvoeren.

Hieronder een overzicht van de meest actuele LLM’s inclusief toepassingsgebied.

Note: De versies volgen elkaar snel op, dus houd er rekening mee dat dit overzicht mogelijk niet meer volledig actueel is wanneer je het leest!

Op het moment van het schrijven van dit artikel wordt gesuggereerd dat er plannen zijn voor de release van een GPT-4.5 & GPT-5.0. De GPT-4.5 zal de laatste ‘non-chain-of-thought model’ van OpenAI zijn. Het plan om de o1 & o3 series als apart model aan te bieden zal hierdoor komen te vervallen.

Deze o-series zullen dus waarschijnlijk in het GPT-5.0 model geïntegreerd worden!

Wanneer we dit vervolgens plotten op de verschillende AI-domeinen, krijgen we het volgende overzicht.

LLM’s in de Software Development Praktijk

Hoe kunnen we deze krachtige LLM’s inzetten om ons werk als software ontwikkelaars efficiënter en effectiever te maken? Het antwoord is veelzijdig, en de mogelijkheden blijven groeien.

• Code Generatie: LLM’s kunnen gebruikt worden om code te genereren op basis van beschrijvingen in natuurlijke taal. Stel je voor dat je een functie beschrijft, en de LLM genereert de code voor je!
• Bug Fixen: LLM’s kunnen code analyseren en potentiële bugs identificeren, en zelfs suggesties geven voor het fixen van de problemen.
• Documentatie Generatie: Het schrijven van documentatie is vaak een tijdrovende klus. LLM’s kunnen automatisch documentatie genereren op basis van de code.
• Refactoring: LLM’s kunnen helpen bij het refactoren van code, waardoor de code leesbaarder, onderhoudbaarder en efficiënter wordt.
• Testen: LLM’s kunnen testgevallen genereren om de code te valideren en te zorgen voor de kwaliteit van de software.

GitHub Copilot: je AI-Pair programmer

Een van de meest spraakmakende toepassingen van LLM’s in de software development is GitHub Copilot. Copilot is een AI-pair programmer die code suggereert op basis van de context van de code die je aan het schrijven bent.

Copilot kan complete functies genereren, code snippets voorstellen, en zelfs hele bestanden schrijven. Dit kan je helpen om sneller te coderen, nieuwe frameworks te leren, en je te concentreren op de meer complexe aspecten van je werk.

Dit klinkt in de basis natuurlijk allemaal perfect, maar in de werkelijkheid blijkt dit toch lastig. Je moet het meer zien als een ‘junior’ developer die naast je zit en die je van ‘getrainde’ codevoorbeelden kan voorzien.

Als je weet wat je aan het doen bent, de juiste prompt engineering best-practices toepast en voldoende context meegeeft, dan zal het resultaat vaak al een stuk beter zijn.

De capabilities van GitHub Copilot heb ik reeds eerder uiteengezet in mijn vorige blog. Wel noemenswaardig is dat sindsdien de feature lijst aanzienlijk is uitgebreid met onder andere:

• GitHub Edits (multi-file edit)
• GitHub Workspaces
• GitHub Models
• GitHub Agents
• Toevoeging van de bekendste LLM’s zoals Claude 3.7 Sonnet, Gemini 2.0 Flash, OpenAI o1/o3-mini

LLM’s in integratiewerkzaamheden bij klanten

Integratiewerk is vaak complex en vereist een diepgaand begrip van de verschillende systemen en API’s die betrokken zijn. LLM’s kunnen hier een cruciale rol spelen:

• API Documentatie Assistentie: LLM’s kunnen je helpen om API documentatie te begrijpen en de juiste API calls te genereren.
• API Policies: Bij het werken met Api’s heb je vaak te maken met een set van in- & outbound policies op je Api welke niet altijd snel te doorgronden zijn. LLM’s kunnen je helpen om deze policies te verklaren of evt aan te passen aan nieuwe wensen en eisen.
• Data Mapping: Bij integraties is het vaak nodig om data van het ene systeem naar het andere te mappen. LLM’s kunnen je helpen bij het automatiseren van dit proces. Verder kun je denken aan het mappen van klant specifieke berichten naar gestandaardiseerde berichten zoals EDI, UBL, EDIFACT, etc.
• Scripting en Automatisering: LLM’s kunnen gebruikt worden om scripts te genereren voor het automatiseren van integratie processen. Denk aan scripts voor het transformeren van data, het aanroepen van API’s, en het monitoren van de integratie.
• Foutopsporing: LLM’s kunnen logboeken analyseren en helpen bij het opsporen van fouten in integraties.
• Genereren van Integratie Flows: Beschrijf de gewenste integratie en de LLM kan een eerste opzet maken voor de integratie flow in bijvoorbeeld tools als Azure Logic Apps, of andere integratie platformen.

Op het gebied van applicatie-integratie bij klanten zie ik generatieve AI vooral als een waardevolle toevoeging binnen softwareontwikkeling. Een combinatie van chatbots (zoals ChatGPT en Copilot) en GitHub Copilot (developer-ondersteuning via LLM’s) kan een belangrijke rol spelen in de volledige ontwikkelcyclus – van design en ontwikkeling tot testen en DevOps. Dit kan de productiviteit en output van ontwikkelteams aanzienlijk verbeteren.

Voor de daadwerkelijke integratie productie flows vind ik de inzet van generatieve AI toch nog best lastig gezien het feit dat integraties bijna altijd ‘deterministisch’ van aard zijn, dus dat je bij een gegeven input altijd dezelfde output verwacht.

AI toepassingsgebieden die wel stochastisch (niet deterministisch) mogen zijn, bevinden zich vaak buiten de kern van applicatie-integratie, zoals:

• Chatbots voor automatische klantinteractie
• Predictive analysis voor het voorspellen van piekbelastingen in api verkeer of server gebruik
• Anomaly detection om afwijkende api aanroepen of frauduleuze transacties te detecteren
• Data matching om klantgegevens uit verschillende systemen te koppelen om een compleet klantprofiel te tonen
• Sentimentanalyse voor automatische verwerking van klantfeedback en supporttickets

Beveiliging

Het gebruik van LLM’s kan krachtige voordelen opleveren, maar het is cruciaal om de risico’s met betrekking tot klantdata te begrijpen en de juiste preventieve maatregelen te implementeren. Door privacy en beveiliging vanaf het begin mee te nemen in het ontwerp en de implementatie van LLM-systemen, kun je de risico’s minimaliseren en het vertrouwen van je klanten behouden.

Middels het gebruik van een dienst zoals GitHub Copilot ben je in staat om de meest geavanceerde LLM’s ‘veilig’ gebruiken. Dit is het officiële statement van GitHub: ‘Microsoft en GitHub hebben verklaard dat Copilot je realtime invoer niet gebruikt om het AI-model te trainen’. Voor organisaties biedt GitHub Copilot for Business, dat expliciet garandeert dat geen prompts, voltooiingen of metadata worden gebruikt voor training.

Wees je er altijd wel van bewust dat het onzorgvuldig invoeren van vertrouwelijke klantinformatie in LLM’s risico’s met zich meebrengt. Handel daarom altijd met de nodige voorzichtigheid.

De toekomst is nu

Generatieve AI en LLM’s zijn geen verre toekomst; ze zijn hier, en ze veranderen de manier waarop we software ontwikkelen. Door deze technologieën te omarmen en te experimenteren met hun mogelijkheden, kunnen we als ontwikkelaars productiever, creatiever en effectiever worden. De toekomst van software development is intelligent, en LLM’s spelen daar een cruciale rol in.

Samenvattend

Als ik puur kijk vanuit het perspectief van SynTouch, en onze focus op data- en systeemintegratie, zie ik momenteel de grootste impact van Generatieve AI in ondersteunende taken zoals documentatiegeneratie, code-optimalisatie en foutopsporing, maar niet in de kern van de integratieprocessen zelf. Op de logische vraag of AI de software ontwikkelaar kan gaan vervangen in de toekomst zeg ik voorlopig nog “nee”, al zal de werkwijze van hoe we software gaan ontwikkelen wel drastisch gaan veranderen. In het data-domein zie ik meer kansen op gebieden als data-integratie, verwerking, analyse en optimalisatie. Hierover verschijnt in de toekomst nog een vervolg blog. Een ding is zeker, AI is geen evolutie maar een revolutie in de wereld van softwareontwikkeling!