KI: Computer genereert tekst

Hans Lenting wrote:

"Het is indrukwekkend, met één druk op de knop krijg je binnen een seconde een hele lap tekst. Maar als je wat meer in de diepte gaat, kloppen de argumenten van ChatGPT niet per se."

[Edited at 2022-12-11 03:50 GMT]

Robert Rietvelt wrote:



.....niet per se? NOG NIET zou accurater zijn. Zie de de snelle ontwikkeling van alles dat naar AI ruikt.

Kwestie van tijd vrees ik.

Hans Lenting wrote:



Het vergaren en opsommen van argumenten gaat nu al best goed. Het echt creatieve creëren van argumenten is veel ingewikkelder en zal nog geruime tijd aan de mens voorbehouden blijven, dunkt me. ChatGPT C.S. kan (kunnen) bestaande oplossingen aandragen, maar geen nieuwe oplossingen creëren.

Onverantwoord
Niet iedereen is daar enthousiast over. Techfilosoof Marleen Stikker vindt het te hard gaan. „Het is prematuur dat Microsoft de technologie van OpenAI, die nog in de kinderschoenen staat, op grote schaal gaat integreren in zijn software. Als je kijkt naar de problemen rondom vooroordelen en desinformatie en kwesties rond auteursrechten bij DALLE-2, dan is dit onverantwoord.”

Ook hoogleraar technologie en samenleving Tamar Sharon (Radboud Universiteit) is bezorgd. „Dit is AI die vooralsnog onveilig is en ethische vragen oproept. Je zou een breed maatschappelijk debat willen voeren en regulerende wetgeving ontwikkelen. In de tussentijd zou je een moratorium moeten afkondigen over de implementatie van dit soort AI.”

Maar dat is bij haar eigen universiteit niet eens mogelijk, zegt Sharon. „We zijn onlangs overgestapt op het cloudplatform van Microsoft. Zo ben je als publieke speler overgeleverd aan een techreus en we zien nu wat daarvan de gevaren zijn.”

Stikker vindt dat we met wetgeving moeten voorkomen dat een AI als ChatGPT kan worden ingezet voor het grootschalig produceren van desinformatie. „Als je kijkt hoe voorzichtig we zijn met voedsel en medicatie. Voordat je iets op de markt mag brengen moet heel goed worden gecontroleerd of het wel veilig is. Dan zou met kunstmatige intelligentie ook moeten gebeuren. Het is tijd voor een mortuarium op deze AI, die nog niet klaar is om op de markt gebracht te worden. De wetgeving van de Europese Unie gaat te langzaam en is te voorzichtig.”

Implementatie van ChatGPT in een programma als Word of een zoekmachine als Bing ziet Sharon als gevaarlijk. „Er is een groot verschil met een encyclopedie als WikiPedia. ChatGPT kan alleen taal produceren, maar heeft geen kennis. Je kunt filosoferen over wat kennis en waarheid is, maar WikiPedia is gebaseerd op het principe van gedeelde kennis en het checken van feiten. ChatGPT is puur een tool die tekst genereert, zonder te weten wat het eigenlijk zegt.”

Voor Sharon gaat het nog te veel over de tool zelf en wat-ie allemaal kan, en te weinig over de „politieke economie” die erachter zit. „Daarbij bedoel ik de miljardairs die erin investeren”, zegt Sharon, „en die zulke technologie op de markt brengen om winst te maken. In het geval van ChatGPT is dat een gebeurtenis met een gigantische maatschappelijke impact, zonder dat we daar enige democratische controle op kunnen uitoefenen. Dat zou niet moeten kunnen.”