De ChatGPT innovatie: het verbaast en schrikt af!

ma 24 april 2023 - 09:00
John-Nosta-1
Innovatie
Nieuws

ChatGPT is nog verre van perfect, maar er is al veel discussie over mogelijke toepassingen in de geneeskunde. Is het niet te vroeg? Nee! Het is niet te vroeg, stelt John Nosta in een interview met ICT&health. Hoewel het waar is dat AI-taalmodellen zoals ChatGPT nog steeds in ontwikkeling zijn, is er al veelbelovend onderzoek gedaan naar hun mogelijke toepassingen in de geneeskunde.

"De ChatGPT revolutie zorgt voor een cognitieve voorsprong, die tot nu toe exclusief voorbehouden was aan de mensheid." Wij spraken met John Nosta, oprichter van NostaLab en lid van de Internationale ICT&health redactieraad.

AI-taalmodellen zoals ChatGPT hebben hun potentieel aangetoond voor gebruik bij medische diagnose, de ontwikkeling van medicijnen en patiëntenzorg. Zo zijn bijvoorbeeld AI-taalmodellen gebruikt om medische beeldvormingsgegevens te analyseren voor het opsporen van afwijkingen of ziekten. Maar ook voor de identificatie van potentiële toepassingen van medicijnen en te helpen bij het ontwikkelen van gepersonaliseerde behandelplannen. Over het algemeen staan de potentiële toepassingen in de geneeskunde weliswaar nog in de kinderschoenen van de AI-taalmodellen, maar ze beloven wel al veel op het gebied van het verbeteren van de patiëntenzorg en (behandel)resultaten.

Vind je de hype rond AI terecht?

We zoeken allemaal naar zaken en gebeurtenissen die de verbeterpunten van systemen blootleggen. Velen – inclusief de gezondheidszorg – dachten dat COVID dat punt was. Maar mijn perspectief is dat het echte omslagpunt de introductie van LLM's en in het bijzonder GPT-3 is. De hype rond AI is aangewakkerd door de aanzienlijke vorderingen en doorbraken die de afgelopen jaren zijn gemaakt, evenals door het potentieel van AI om een breed scala aan industrieën en sectoren te transformeren. Verder heeft de unieke relevantie en het nut van de reguliere consument de hype verder aangewakkerd.

Laten we eerlijk zijn: voor velen zijn GPT-modellen magisch. En zoals Arthur C. Clarke beroemd zei: "Elke substantieel geavanceerde technologie is niet te onderscheiden van magie." Dat is waar we nu staan met GPT. En het interessante aspect hier is dat "je nog niets hebt gezien!"

Hoewel AI veelbelovend is gebleken op gebieden als beeldherkenning, natuurlijke taalverwerking en autonome systemen, zijn er nog steeds gebieden waarop AI worstelt, zoals het begrijpen van de context, het maken van subjectieve beoordelingen en het omgaan met onvolledige of gegevens die nog veel ruis bevatten. Daarnaast zijn er ethische overwegingen rond het gebruik van AI, waaronder kwesties met betrekking tot privacy, vooringenomenheid en eerlijkheid.

Dat gezegd hebbende, er zijn veel opwindende en veelbelovende toepassingen van AI die de samenleving op aanzienlijke manieren kunnen helpen, van het verbeteren van de gezondheidszorg en het onderwijs tot het bevorderen van wetenschappelijk onderzoek. De vooruitgang van deze technologie gaat razendsnel en zal veel van deze problemen aanpakken. Het evolueert net zo snel als de worstelingen, hoewel we dat vaak zelf niet eens zien.

Je schreef ooit dat mensen meer geïnteresseerd zijn in de fouten van kunstmatige intelligentie dan in het potentieel ervan. Zijn we bang voor AI? Terecht?

Ten eerste en helaas haalt de meerderheid van het publiek, waaronder veel professionals, hun informatie over technologie en AI uit Hollywood. Het dystopische perspectief staat bij velen hoog in het vaandel, en het is een krachtig en resonerend concept. Dus laten we deze "fouten" vaak leiden tot slecht bedachte ideeën die leuk zijn voor gesprekken tijdens feestjes en generieke conferentiepanels. Zoals we uit de pers weten: als het bloedt, dan verkoopt het. Dat is de basis voor veel van de click-bate en angstzaaierij die geassocieerd wordt met AI.

De keerzijde, die er zeker ook is, werd verdedigd door Elon Musk. AI kan zeker een existentiële bedreiging vormen, vooral nu het is geëvolueerd naar Artificial General Intelligence (AGI). Er zijn dus praktische en belangrijke leidraden die moeten worden opgenomen in de ontwikkeling van deze systemen. Ik heb een document gemaakt om dit te ondersteunen, getiteld The Human Declaration of Autonomy And Independence From Artificial Intelligence.

IBM Watson Oncology toonde aan dat artsen niet bereid zijn om AI te vertrouwen bij de besluitvorming. Wacht hetzelfde lot de medische tegenhangers van ChatGPT?

Herinner je je Newton van Apple nog? Simpel gezegd, een apparaat dat te vroeg kwam en nodige verwerkingskracht, geheugen en connectiviteit ontbeerde om aan de marktbehoeften te voldoen. Ik denk dat IBM Watson een vergelijkbare mislukking was. Watson werd ondersteund door topmarketing, waaronder Ken Jennings in het tv-programma Jeopardy, en krachtige communicatie van grote reclamebureaus. Dus de marketing overtrof het medicijn, en dat was de tragische fout.

De onwil van artsen om AI volledig te vertrouwen bij de besluitvorming, zoals blijkt uit de ervaring met IBM Watson Oncology, benadrukt de noodzaak van meer samenwerking tussen AI en medische professionals. Het succes van AI in de gezondheidszorg zal afhangen van het vermogen om de expertise van artsen te integreren en te vergroten als integraal onderdeel van het modelleren.

Wordt GPT een 'nieuwe' IBM Watson? Vrijwel zeker niet. En ik kan niet wachten tot GPT te gast is op Jeopardy om het op te nemen tegen Ken Jennings en klinische experts!

"Regel nummer één: vertrouw maar verifieer."

Denk je niet dat mensen de neiging hebben om AI te romantiseren en te idealiseren?

Ik heb vaak gezegd dat innovatie leeft in het domein van verwondering en angst. Van vuur tot vlucht, deze basale menselijke emoties - misschien zelfs limbisch - zijn krachtig en vaak geromantiseerd. In de kern gaat innovatie over het verleggen van grenzen en het zoeken naar nieuwe manieren om dingen te doen. Het is deze inherente drang naar vooruitgang die ons als samenleving vooruit drijft, maar het brengt ook grote risico's met zich mee.

We moeten leren ons gevoel van verwondering over wat innovatie kan bereiken in evenwicht te brengen met onze angst voor het onbekende en de onvoorziene gevolgen die innovatie met zich mee kan brengen. En dat is en lastige balanceeract. Het is inherent ontwrichtend en drijft een psychopathologie van tegenzin en weerstand aan. Dit is misschien wel een van de grootste obstakels voor digitale transformatie - thuis, in de directiekamer of in het ziekenhuis. AI is misschien wel de beste uitdrukking hiervan - en hoe groter het wonder, hoe groter de angst. Het is zowel mooi als tragisch, en dat is de essentie van romantiek.

Sommigen beweren dat het gewoon weer een innovatie is, een betere manier om enorme datasets te verwerken, maar geen doorbraak.

Ten eerste zijn LLM's en GPT verre van 'zomaar een technologie'. Ja, ze hebben een soort mechanisch voordeel opgeleverd, zoals de fiets. Maar er is een fundamenteel verschil. Een krachtig aspect van de GPT-revolutie gaat verder dan een mechanische innovatie; het biedt een 'cognitief voordeel' dat raakt aan iets dat ook heilig en exclusief het domein van de mensheid is. GPT is naar voren gekomen als een cognitieve katalysator, waardoor we ruimer kunnen denken door verschillende opties te presenteren die we anders misschien niet hadden overwogen. Door gebruik te maken van de mogelijkheden van GPT, kunnen we putten uit een enorme hoeveelheid kennis en perspectieven - buiten onze individuele kennisbasis - om onze horizon te verbreden en ons ertoe aan te zetten nieuwe keuzes en oplossingen te verkennen.

ChatGPT luidt de ontwikkeling in van digitale agenten om ons onder meer te adviseren over gezondheidskwesties. Zou je zo'n systeem net zo vertrouwen als een mens?

Ja. Een van Ronald Reagan's beroemdste uitspraken ging over de Amerikaanse relatie met de voormalige Sovjet-Unie: "Vertrouw maar verifieer."

Ik denk dat dit van toepassing zou kunnen zijn op de huidige staat van AI en geneeskunde. Maar dit is geen vaste realiteit. Het verschuift heel snel, zeker daar waar het vertrouwen groeit en de behoefte aan toezicht of verificatie afneemt. Dit is exponentieel, maar ik vraag me af of er een drempel is of meer een asymptotische barrière. Ik vermoed dat het vertrouwen in minder dan vijf jaar goed ingeburgerd zal zijn.

Geef 2 of 3 scenario's voor de impact van AI op de gezondheidszorg in de komende vijf jaar.

Ten eerste zorgt het verschuiven van professionele bandbreedtes als AI-augmentatie ervoor dat verschillende professionals meer kunnen doen met meer competentie. We zullen dat op veel gebieden zien, van artsen tot verpleegsters tot technici. Verder zal dit het personeelscluster veranderen dat nodig is om optimale zorg te bieden.

Ten tweede zal een steeds snellere diagnose ontstaan, aangezien AI een rol speelt bij de interpretatie en extrapolatie van gegevens.

Ten derde wordt veel data gewoon niet gebruikt en weggegooid. We zullen de opkomst van 'data-ecologie' zien, waarbij bijvoorbeeld een CT van de borstkast zal worden gebruikt voor meer dan alleen één enkel klinisch doelwit, zoals een knobbeltje of longontsteking. De verkregen gegevens worden automatisch gebruikt voor vele andere aandoeningen, zoals de cardiale calciumscore tot wervelanalyse voor osteoporose.

John Nosta levert bijdragen aan Fortune, Forbes, Psychology Today en Bloomberg en is lid van de ICT&health editorial board.