Wikipedia:Opinielokaal/Moratorium gebruik AI gegenereerde teksten

Moratorium gebruik AI gegenereerde teksten

Opiniepeiling
Onderwerp	Moratorium gebruik AI gegenereerde teksten
Stelling	Het gebruik van onbewerkte door AI zoals ChatGPT gegenereerde tekst is tot 1 juli 2024 niet toegestaan. Duidelijk onbewerkte, door AI gegenereerde tekst mag onmiddellijk verwijderd worden. In de richtlijnen voor moderatoren komt een toevoeging met deze strekking.
Begindatum	woensdag 7 juni 2023, 13:00 (CEST)
Einddatum	woensdag 21 juni 2023, 13:00 (CEST)
Keuzes	Het gebruik van onbewerkte door AI zoals ChatGPT gegenereerde tekst is tot 1 juli 2024 niet toegestaan. Duidelijk onbewerkte, door AI gegenereerde tekst mag onmiddellijk verwijderd worden. De RvM krijgen een toevoeging met deze strekking: Ja/Nee/Geen voorkeur
Coördinator	Milliped (overleg)
Overleg	Zie overlegpagina
Opmerkingen	Dit is een initiële versie van een peiling. Einddatum van moratorium is een beetje arbitrair, wellicht zal er aangegeven moeten worden of er een tweede peiling nodig is aan het einde van de periode of dat het moratorium dan vanzelf vervalt.
Een opiniepeiling verzamelt meningen van Wikipediagebruikers over een bepaald onderwerp en heeft geen bindende kracht. Gebruik hiervoor een stemming.

De peiling is gesloten.

Inleidend

Er is nogal wat discussie over het gebruik van AI gegenereerde teksten. Er zijn een paar specifieke problemen met artikeltekst die door AI zoals ChatGPT gegenereerd is:

• Hallucinatie: AI-gegenereerde tekst kan de grootst mogelijke onzin bevatten, maar dit wordt met grote stelligheid en echt uitziend gebracht. Dit geldt ook voor bronvermeldingen, deze zijn vaak compleet incorrect en bevatten geen inhoud die het gestelde staaft;
• De auteursrechtelijke status is vaag, zie de discussie onder meer hier. Bekeken zal moeten worden of de auteursrechtelijke status van AI-output compatibel is of te maken valt. Dit zal denkelijk door de Wikimedia Foundation vastgesteld moeten worden;
• In een aantal gevallen kan AI-tekst kromtaal opleveren. Dit probleem is iets zwakker, er is een stuk overlap tussen de teksten van de minst capabele menselijke Wikipediamedewerkers en de beste AI-tools.

Het gegeven is dat met de toegenomen populariteit van de tools het aantal aangeleverde artikelen groot wordt en het lastig is en wellicht ongewenst deze in de reguliere beoordelingsprocedure mee te nemen. Deze peiling behelst het voorstel om de Richtlijnen voor Moderatoren dusdanig aan te passen dat artikelen die overduidelijk door een AIU zijn aangemaakt, of waaruit na een test met een AI-detectietool helder blijkt dat het AI is, deze buiten de reguliere procedure direct te kunnen verwijderen. De sectie direct verwijderen van de Richtlijnen voor moderatoren worden derhalve voor de duur van het moratorium aangevuld met deze tekst:

• Pagina's die overduidelijk door een AI-tool geschreven zijn.

De tekst is overduidelijk gegenereerd door een AI-tool zoals ChatGPT. Deze clausule vervalt per 01-07-2024

Deze clausule past wat betreft de plaatsing het best tussen de kopjes omtrent auteursrechtenschending en cyberpesten.

NB: Er is hier een expliciete keuze voor een moratorium op AI-gegenereerde tekst. De techniek ontwikkelt zich en er is op de Nederlandstalige Wikipedia geen verbod op botgegenereerde tekst. Dat valt buiten het kader van deze peiling.

Peiling: Het gebruik van onbewerkte door AI zoals ChatGPT gegenereerde tekst is tot 1 juli 2024 niet toegestaan. Duidelijk onbewerkte, door AI gegenereerde tekst mag onmiddellijk verwijderd worden. De RvM krijgen een toevoeging met deze strekking

De peiling is gesloten.

Ja, het gebruik van onbewerkte door AI zoals ChatGPT gegenereerde tekst is tot 1 juli 2024 niet toegestaan. Inhoud die duidelijk afkomstig is van een AI tool mag onmiddellijk worden verwijderd

1. Apdency (overleg) 7 jun 2023 14:04 (CEST) Ik moedig elk instrument aan dat tegengaat dat Wikipediagebruikers hun eigen creativiteit ondermijnen, wat toch al massaal gebeurt. Daarnaast is het afzien van AI gebruiken überhaupt een goed idee, want erg vriendelijk voor ons aller biotoop schijnt het niet te zijn. Handhaafbaarheid is nog wel een probleem. Want maskeren dat iets van AI afkomstig is, moet niet al te moeilijk zijn.
2. Ennomien (overleg) 7 jun 2023 14:31 (CEST) Zolang we AI niet kunnen vertrouwen wat betreft ons verplichte brononderzoek en gewenste bronvermelding, kunnen we ze maar beter weren. Anders kunnen mensen geheel binnen de regels botmatig allerlei artikelen aanmaken en wordt Wikipedia langzaamaan niks meer dan een verzameling van tekstdumps.
3. Kippenvlees (overleg‽) 7 jun 2023 15:05 (CEST) Enkele dagen geleden al een tiental artikelen verwijderd die in een paar minuten aangemaakt werden met AI-gegenereerde inhoud. Normaliter zou je dergelijke artikelen zonder opmaak als WIU kunnen bestempelen, maar omdat er nul intellectuele basis onder deze teksten ligt is het onzinnig om dat te doen aangezien je elke zin los moet verifiëren en opmaken. Dan is er geen voordeel ten opzichte van de tekst verwijderen en opnieuw schrijven.
4. Eens, zoals ook hier en inhoudelijk eerder al hier betoogd. Wutsje 7 jun 2023 15:39 (CEST)

   Aanvulling: zie ook Eva Hofman en Joris Veerbeek, De bronnen van ChatGPT : ‘Dat zijn toch gewoon ál onze artikelen?’, groene.nl, 7 juni 2023 (backup)

5. AI-gegenereerde teksten kunnen in de toekomst mogelijk een nadelige impact hebben op de vindbaarheid in zoekmachines zoals Google. Volgens en:Wikipedia:Google statistics komt 66% van de bezoekers van Wikipedia daar via de zoekmachines. Novopas (overleg) 7 jun 2023 16:22 (CEST)
6. Mbch331 (overleg) 7 jun 2023 16:57 (CEST) AI-gegenereerde teksten zijn voor een aanmaker een makkelijke manier om vlug een artikel te maken. Maar we willen geen kwantiteit, maar kwaliteit en daarvoor moet je toch teksten schrijven op basis van bronnen en inhoudelijke kennis hebben van het onderwerp.
7. JoostB (overleg) 7 jun 2023 16:59 (CEST)
8. ChatGPT e.d. wel, maar botgemaakte dorpjes moeten niet verboden zijn. Ymnes (overleg) 7 jun 2023 17:19 (CEST)

   Dat zijn ook geen AI teksten. Daar zit gewoon een script achter wat de bot-operator geschreven heeft en dat script heeft geen leerfunctie. Mbch331 (overleg) 7 jun 2023 17:25 (CEST)

   Dank je voor de toelichting. Ymnes (overleg) 7 jun 2023 17:35 (CEST)

   De essentie blijft toch hetzelfde: er is een tekst geplaatst op onze Wikipedia zonder dat daar intellectuele inspanning van een persoon aan te pas is gekomen. Apdency (overleg) 7 jun 2023 18:58 (CEST)

   Dat is niet helemaal waar. In de voorbereiding op een dergelijke botrun is wel degelijk inspanning gedaan voor het appreciëren van de oorspronkelijke bron(nen) die de basis voor de artikelen vormen en achter de data in die bron is tevens (uitbesteede) intellectuele inspanning benodigd geweest. Het bestaansrecht (E-waarde + inhoud) van die artikelen berust dus in ieder geval op bronnen, waar dit niet het geval is bij AI-teksten. - Kippenvlees (overleg‽) 7 jun 2023 20:24 (CEST)

   OK, je uitleg zal vast wel kloppen, ik weet weinig van botruns andere dan die welke massaal voorkomende fouten aanpassen in bestaande artikelen. Verder wantrouw ik alles wat voortkomt uit de gedachte "Laat de computer het (grootste deel van) het werk maar doen, dan komt het wel goed" te veel om me erin verdiept te hebben. Apdency (overleg) 7 jun 2023 20:43 (CEST)

9. Thieu1972 (overleg) 7 jun 2023 18:20 (CEST) Wie moet je trouwens op de inhoud van een AI-artikel aanspreken als de plaatser geen idee heeft wat-ie geplaatst heeft?

   De plaatser? Ik neem aan dat dat nog wel steeds een mens is. Iemand die nu een tekstje dumpt dat-ie op een website heeft gevonden kan ook geen idee hebben wat-ie geplaatst heeft, en is in dat geval degene die wordt aangesproken. Apdency (overleg) 7 jun 2023 18:58 (CEST)

   Natuur12 (overleg) 7 jun 2023 18:50 (CEST) We moeten dan wel een betrouwbaar detectiesysteem hebben, maar dat komt wel goed.

   Bestaat zoiets al dan? Apdency (overleg) 7 jun 2023 18:58 (CEST)

   Jawel, zie hier voor de AI detector van de maker van chatGPT. Natuur12 (overleg) 7 jun 2023 21:28 (CEST)

   Die detectoren maken zeer veel fouten, en zijn met de juiste vragen eenvoudig te ontwijken. Mvg, Bas dehaan (overleg) 7 jun 2023 21:41 (CEST)

   Die detectoren zijn inderdaad niet bijzonder betrouwbaar, en zullen alleen maar minder betrouwbaar worden naarmate de technologie om die teksten te genereren diverser en beter wordt. Enkele relevante artikelen: GPT detectors are biased against non-native English writers, Can AI-Generated Text be Reliably Detected? (vuistregel: als de titel van een wetenschappelijke publicatie een vraag is, is het antwoord gewoonlijk "nee"), MGTBench: Benchmarking Machine-Generated Text Detection. Al zijn er uiteraard voldoende groepen die claimen een effectieve detectie te hebben gevonden voor de huidige generatie. Caveat: ik beschouw mezelf geen expert op dit gebied, en heb me vooral beperkt tot de abstracts. Maar het komt overeen met wat ik van collega's hoor, die er duidelijk veel meer kaas van gegeten hebben. -- Effeietsanders (overleg) 9 jun 2023 03:40 (CEST)

   Hoi Effe, ik ben evenmin expert op dit gebied, maar je kunt wel op je klompen aanvoelen dat naarmate AI zich verder ontwikkelt, de technologie eromheen (waaronder detectie) zich ook verder ontwikkelt. De politie werkt ook niet meer met de apparatuur van 1993 om boeven op te sporen. Apdency (overleg) 11 jun 2023 18:36 (CEST)

   Dat zal tot op zekere hoogte het geval zijn, maar als ik om mij heen luister, klinkt het niet erg waarschijnlijk dat die detectie het goed zal kunnen bijhouden. Maargoed, dat is speculatie - het geeft maar weer aan hoeveel er onbekend is, en erop vertrouwen dat er wel goede detectie zal zijn, lijkt me onverstandig. -- Effeietsanders (overleg) 11 jun 2023 22:43 (CEST)

   Mee eens. Apdency (overleg) 12 jun 2023 18:33 (CEST)

10. Wikiwerner (overleg) 7 jun 2023 19:18 (CEST) Ik meen eens gelezen te hebben dat een bijdrager de tekst zelf geschreven moet hebben. Maar ook zonder dat argument zie ik voldoende reden om voor te stemmen.
11. Verdel (overleg) 7 jun 2023 20:21 (CEST) Wat er nu komt binnenwandelen met AI bevat teksten waarvan niemand weet waar die vandaan komen. Er worden in dergelijke artikelen zelfs tips en conclusies getrokken.
12. Per Apdency, Ennomien en Natuur12, Drummingman (overleg)‍ 7 jun 2023 20:26 (CEST)
13. Strepulah (💬) 7 jun 2023 20:33 (CEST) Geen behoefte aan slecht- of onbebronde tekstdumps.
14. MichielDMN 🐘 (overleg) 7 jun 2023 23:05 (CEST) AI zoals ChatGPT rekent net zélf op de menselijke inbreng op Wikipedia. Als wij de deur openzetten voor wat AI zelf ook kan, ondergraven we ons én hun basisidee. Het is natuurlijk vooral gemakzuchtig en niets garandeert dat de plaatser zelf enige moeite heeft gedaan om de tekst te verifiëren.
15. Per voorgaande reacties. Labrang (overleg) 8 jun 2023 01:21 (CEST)
16. Joris (overleg) 8 jun 2023 02:39 (CEST) Ik vind het prima, maar het zal soms lastig te controleren zijn of een tekst van een bot is.
17. Bart Terpstra (overleg) 8 jun 2023 03:01 (CEST) automatische tools zijn geweldig, maar kunnen feiten verzinnen met citaties die vervolgens handmatig moeten worden gecorrigeerd (lees: zeer duur). de meer mensen chatGPT gebruiken om wikipedia artikels te genereren, de meer wikipedia het standpunt van chatGPT en chatGPT-achtigen zal vertegenwoordigen. Er is ook een lopende vraag of er copyright zit op teksten die uit tekst generators komen. Indien er geen copyright op zit is dat een probleem, want dan kan het niet gelicensed worden onder de termen waaronder Wikipedia nu haar copyright licenseerd, wat kan zorgen dat Wikipedia niet langer Copyleft is. Het is ook belangrijk te onthouden dat het een zeer ondiep begrip van de wereld heeft, dit houdt in dat als je het een conditionele vraag stelt zoals "waarom is mijn werk niet goed" het dingen verzint uit dunne lucht die plausiebel klinken, het hoeft niet daadwerkelijk van toepassing zijn op wat je het vraagt, een soort Waarzeggerij.
18. Sneeuwvlakte (overleg) 8 jun 2023 09:32 (CEST) De schrijver moet zelf bekend zijn met het onderwerp waar die over schrijft en zijn eigen denkcapaciteit gebruiken. De taalfouten die dat eventueel oplevert, zijn niet een ramp, omdat anderen dat toch kunnen corrigeren.
19. netraaM • 8 jun 2023 10:40 (CEST) Wat mij betreft voor onbepaalde duur. ChatGPT spuwt vaak de meest feitelijk incorrecte onzin uit, totaal bronloos. Absoluut ongewenst.

    Prima, maar je hebt desondanks wél gestemd om AI per 1 juli 2024 toe te laten. Je moet je stem verplaatsen naar "Geen voorkeur/ Andere mening". HT (overleg) 13 jun 2023 18:35 (CEST)

20. Gegenereerde teksten kunnen wel als basis dienen voor een artikel, mits deze gecontroleerd en geredigeerd zijn. Ook kan men mogelijk zeer specifieke instructies geven voor het schrijven, wat ook acceptabel kan zijn. Het plaatsen van generieke ongeredigeerde teksten is hetzelfde als een tekstdump, en dus niet acceptabel. Vraag is wel hoe we dit betrouwbaar detecteren. — Zanaq (?) 8 jun 2023 10:41 (CEST)
21. DimiTalen 9 jun 2023 08:52 (CEST)
22. Philemonbaucis (overleg) 9 jun 2023 22:08 (CEST)
23. Renevs (overleg) 9 jun 2023 22:58 (CEST)
24. Linkin (overleg) 11 jun 2023 09:58 (CEST)
25. De Wikischim (overleg) 11 jun 2023 17:37 (CEST)
26. Peter b (overleg) 14 jun 2023 12:04 (CEST) (en ook na 1 juli 24)
27. Licks-rocks (overleg) 14 jun 2023 13:31 (CEST) ChatGPT is geen AI, het is een simpel machine-learning programma dat voorspelt wat voor tekst er het meest waarschijnlijk bij een bepaald prompt hoort. Het "verzint" deze tekst aan de hand van wat er op het internet te vinden is, maar geeft geen inzicht in de daadwerkelijke bronnen die het gebruikt. Als je het om bronnen vraagt, verzint het deze bronnen op dezelfde manier als de rest van de tekst, ongeacht wat er in die bronnen staat en of ze überhaupt bestaan. AI is dus nog lang niet geschikt om wikipedia-artikelen mee te schrijven.
28. Pagina's die overduidelijk door ChatGPT geschreven zijn, zijn niet goed voor Wikipedia. Dus is een nuweg op zijn plek. ✔ Rots61 Overleg 16 jun 2023 16:51 (CEST)
29. Ziqo (overleg) 17 jun 2023 13:05 (CEST)
30. Gasthuis(overleg) 18 jun 2023 10:56 (CEST) Ook na 1 juli 2024 niet toestaan. Mensen moeten zelf bronnen lezen en teksten schrijven. Wie dat niet kan, heeft hier niets te zoeken.

    Helemaal mee eens. Maar je kan beter je stem verplaatsen naar Geen voorkeur/ Andere mening. HT (overleg) 19 jun 2023 17:55 (CEST)

    Beste Happytravels, dat lijkt me een misverstand. Zie ook de Opmerking bovenaan die dit punt al signaleert. Het moratorium tot 1 juli 2024 zegt nog niets over wat er op/na die datum gaat gebeuren. En ik neem aan dat de coördinator goed kijkt naar de toelichtingen en niet alleen gaat tellen. Met vriendelijke groet, Gasthuis(overleg) 19 jun 2023 18:09 (CEST)

31. MartinD (overleg) 19 jun 2023 17:05 (CEST)
32. Flügel-Flitzer (overleg) 20 jun 2023 07:08 (CEST)
33. Eens: ik ben tegen automatische vertaling en door KI gegenereerde teksten, dus ik ben vóór verbieden ervan. Vertalen en uit het hoofd schrijven werkt het beste als je dat met de hand doet. Dat is leerzamer, je bent creatiever, je let meer op wat je schrijft en je bent je meer bewust van het maken van een hoogstaand kwalitatief artikel, inclusief goede bronnen. Dus wat mij betreft verbieden we KI-teksten, lieftst voorgoed, maar in elk geval tot 1 juli 2024 (zoals genoemd). Mondo (overleg) 20 jun 2023 23:25 (CEST)

    Ik moet wel zeggen dat dit totaal niet gaat over vertaling, dit gaat alleen over generatieve netwerken. Deze nemen een algemene prompt en geven een groter resultaat.

    Dit is in vergelijking met een machine vertaling, die een even groot resultaat geeft als er in gaat en zo min mogelijk origineel materiaal probeert in te voegen. Bart Terpstra (overleg) 20 jun 2023 23:28 (CEST)

De peiling is gesloten.

Nee, het gebruik van onbewerkte door AI zoals ChatGPT gegenereerde tekst is toegestaan. Incorrecte tekst zal via de reguliere beoordelingsprocedure verwerkt worden

1. We gaan met het verbieden van ChatGPT het probleem krijgen dat we nu ook al meer en meer zien bij het verbod op vertalingen. Namelijk, een artikel geschreven door ChatGPT is vrijwel niet te onderscheiden van enig ander bronloos artikel. En zeker met de komst van ChatGPT Plugins (nu al beschikbaar voor betalende leden) neemt ook het risico op hallucinaties van het algoritme significant af doordat het bronnen kan raadplegen. Dus laten we de bron van het probleem bestrijden i.p.v. de symptomen, laten we vastleggen waar de info vandaan komt, dus laten we bronnen verplicht stellen. Bas dehaan (overleg) 7 jun 2023 21:24 (CEST)

   Ik pleit daarom ook voor een moratorium, uiteindelijk zou AI een nuttig hulpmiddel kunnen vormen. Maar de probeersels die nu langskomen komen van enthousiastelingen die niet noodzakelijkerwijs die plugins betalen, en waar wel bronnen worden aangegeven, maar die niets met het onderwerp van doen hebben. Zie hier een poging die ik een paar weken geleden deed om een bebrond beestjesartikel te maken. Dat liep nog niet goed af. Over een jaar zal de techniek ge-evolueerd zijn, en zal er meer helderheid zijn over de rechtenstatus naar ik hoop. Milliped (overleg) 7 jun 2023 22:36 (CEST)

   Nog een opmerkinkje trouwens: Uit de testen die ik tot dusver gedaan heb, komt dat ChatGPT (zonder al dan niet betaalde plugins) júist met de bronnen knap hallucineert. Je krijgt dan een artikel met heel veel bronnen, maar die geen betrekking hebben op het beweerde. Het zal er dan op neer moeten komen dat artikelcontroleurs standaard iedere bron af moeten gaan om te kijken of de opgegeven bron staaft wat er gezegd wordt, iets wat ik vermoed dat nu bij de artikelcontrole geen staande praktijk is. Milliped (overleg) 11 jun 2023 14:03 (CEST)

2. Het lijkt me buitengewoon ongewenst als tekst die zonder verdere input is gegenereerd, wordt overgenomen. Desalniettemin enkele overwegingen:
   • GPT kan heel goed gebruikt worden om de vorm van de tekst te verbeteren, zonder de inhoud aan te passen. Denk hierbij aan spelling, grammatica en toegankelijkheid. Dat vergt een andere query, maar maakt gebruik van hetzelfde framework. Het algemene verbod zou dan ook te breed zijn ('onbewerkt' is mij te onduidelijk). Als er een goed detectiesysteem zou bestaan, zou dat hierop aanslaan.
   • Hoewel GPT3 niet geschikt is hiervoor, zou het best kunnen dat toekomstige versies wel een bruikbare basis kunnen vormen. Zo kun je GPT3 (e.g. ChatGPT) niet vragen om bronnen aan te halen en ook verwachten dat die bronnen daadwerkelijk bestaan, maar GPT4 (via API alleen toegankelijk momenteel) is hier al beter in. De vooruitgang in de Large Language Models is dusdanig, dat ik niet de stelling zou aandurven dat dit niet ernstig kan verbeteren in komende versies tot het punt dat het beter is dan een gemiddelde gebruiker.
   • Het is buitengewoon lastig om AI-teksten te herkennen. Ik heb ernstige twijfels over de uitvoerbaarheid, zeker voor de latere generaties AI.

   NB: waar ik geen moeite mee heb, is het verwijderen van 'hallucinaties' die voor *kunnen* komen als je AI gebruikt zonder enige vangrails. Maar de gebruikelijke verwijderprocedure is beter ingericht voor het bevestigen dat het inderdaad hallucinaties zijn. -- Effeietsanders (overleg) 8 jun 2023 02:30 (CEST)

   PS: Ik zou wellicht wel voorstander zijn van opname van een waarschuwing tegen het gebruik van Large Language Models ('AI' is te algemeen, en volgens mij worden hier LLM's bedoeld) in richtlijnen voor gebruikers. We dienen uitermate terughoudend te zijn met het gebruik van dergelijke modellen, en ze alleen in te zetten als hulpmiddel. -- Effeietsanders (overleg) 8 jun 2023 18:56 (CEST)

   De ware categorie is "generatieve neurale netwerken".

   generatief, want het breid een prompt uit.

   neurale netwerken, wat dat is de algemene theorie.

   Je wil niet vast komen te zitten op het verschil tussen "adverserial", "reinforcement", etc 2A02:A44C:23B9:1:C4CF:BC2A:D580:13D6 18 jun 2023 12:37 (CEST)

   Wanneer je dit wilt opnemen als verbod, zul je daar inderdaad wat specifieker in zijn. Ik weet niet of dit de definitie is die de voorsteller(s) in gedachten had(den). Maar 'AI' is in ieder geval wat breed lijkt me - zelfs de experts rollen nog geregeld over elkaar over de exacte definitie van die term :) . -- Effeietsanders (overleg) 20 jun 2023 23:55 (CEST)

   AI is ook expertsystemen, dus dat zou betekenen dat alle bots straks ook worden verboden :p

   Maar even serieus, voorsteller(s) bedoelden generative artificial intelligence en ik hoop dat niemand het in zijn hoofd haalt straks wat anders te beweren... Bart Terpstra (overleg) 21 jun 2023 00:26 (CEST)

3. hiro the club is open‍ 8 jun 2023 10:43 (CEST) Het gros van ons is alleen bekend met de 'gratis' versie van ChatGPT. Maar er zijn meer AI-oplossingen, waar wij maar beperkt bekend mee zijn. Om een goed antwoord te kunnen geven op de stelling, zullen we moeten doen alsof er meer is dan alleen ChatGPT en de hype en vlugge probeersels daaromheen. Als ik kijk naar wat er nu al aan teksten gegenereerd kan worden, dan zie ik daar betere artikelen uit rollen dan wij zelf soms produceren met onze wisselende blikken op relevantie en verifieerbaarheid. Die teksten kunnen prima in de encyclopedie passen, zeker als ze van bronnen voorzien zijn. Een verbod instellen is lastig, want hoe ga je dat handhaven als de tekst al net zo goed of beter kan zijn dan wat wij zelf produceren? Bovendien, als er per de stelling een werkelijk onbewerkte tekst geplakt gaat worden, dus zonder de juiste opmaak, indeling en bijvoorbeeld wikilinks, belandt zo'n artikel toch wel op iemands radar of zelfs op TBP. Daar is geen nieuw verbod of aanpassing van de RvM voor nodig. Tenslotte; laten we van de gelegenheid gebruik maken en bronvermelding verplicht stellen. De beste manier om duidelijk te maken waar informatie vandaan komt, is om aan te geven waar informatie vandaan komt.

   Eens met het tweede deel van wat je zegt en zéker met je slot. In coëxistentie daarentegen geloof ik niet: de dag dat AI-teksten goed genoeg zijn om hier in te passen - en dan bedoel ik inclusief verifieerbaarheid -, is de dag dat onze winkel irrelevant wordt. Karmakolle (overleg) 8 jun 2023 10:52 (CEST)

   Een (deze) encyclopedie biedt meer dan alleen informatie in de vorm van lopende tekst over een onderwerp. Tegen de tijd dat de AI-teksten goed genoeg zijn om integraal en zonder inhoudelijke wijzigingen over te nemen, zal er nog altijd werk gestoken moeten worden in een stukje verrijking en het inpassen in de encyclopedie en we zullen voorlopig ook echt nog wel bezoekers trekken. Maar ik ben wel benieuwd of WMF de doelstellingen voor de middellange termijn nog eens tegen het licht gaat houden. hiro the club is open‍ 8 jun 2023 12:40 (CEST)

4. MPhernambucq (overleg) 8 jun 2023 10:57 (CEST) Het gebruik van AI is een zeer handig hulpmiddel voor het genereren van teksten. Verder zijn er verschillende AI toepassingen die ook de bronnen weergeven van de gegenereerde tekst. Zie bijvoorbeeld Evidencehunt. In mijn studentonderwijs heb ik mijn schrijfopdrachten al deels omgezet naar andere vormen. Laten we AI omhelzen als een geweldig hulpmiddel. MPhernambucq (overleg) 8 jun 2023 10:57 (CEST)
5. Natuur12 (overleg) 9 jun 2023 22:35 (CEST) Ik denk dat Bas de beste argumenten heeft. Wat ik als oplossing zie, laat gebruikers die voldoende technisch onderlegd zijn een richtlijn schrijven. De rest van ons legt zich er dan bij neer.
   • Verplichte bronvermelding zou inderdaad een véél betere oplossing zijn (en niet enkel voor dit probleem), maar ik ga ervan uit dat daarvoor (nog) geen meerderheid te vinden is. Dan maar eerst dit moratorium. Wutsje 9 jun 2023 23:06 (CEST)
     • @Wutsje: Ik heb met Bing output gezien die behalve een uitgebreid antwoord geven op een specifieke vraag, ook netjes bronnen bij het antwoord zet, vaak op precies dezelfde plek als wij op Wikipedia plegen te doen. Je kunt alles (antwoord + bronvermelding) gewoon kopiëren in een artikel, met wat vingerwerk om het in de juiste Wikipedia-tags te gieten, en klaar is luie Kees. Dus dat lijkt ook al geen garanties te bieden. Apdency (overleg) 11 jun 2023 14:33 (CEST)

       Waar ik wel benieuwd naar ben, heb je de door Bing opgegeven bronnen ook nagelopen? De native ChatGPT wil er nog wel eens een loopje mee nemen, misschien is Bing beter. Áls het zou werken, zou het een intrigerende mogelijkheid geven om op ieder bron?-sjabloon een AI query los te laten. Milliped (overleg) 11 jun 2023 14:46 (CEST)

       Ik heb net de volgende vraag gesteld aan Bing: "Wie is landdrost Jan Lindhout?", betreffende iemand over wie wij nog geen geen artikel hebben. Dit is het antwoord: Jan Lindhout was een ambtenaar die betrokken was bij de ontwikkeling van de Zuidelijke IJsselmeerpolders. Hij werkte als secretaris en plaatsvervangend landdrost van het openbaar lichaam ‘Zuidelijke IJsselmeerpolders’ (ZIJP) en was van februari tot augustus 1976 waarnemend landdrost¹. Hij was ook de eerste gemeentesecretaris van Lelystad toen het een gemeente werd in 1980¹. Hij ging in 1992 met vervroegd pensioen¹. Bij die drie 1-tjes (vreemd genoeg allemaal 1-tjes dus) stonden de volgende bronnen: 1, 2 en 3. Dit klinkt lang niet gek. Ik denk dat zo'n artikel snel als gecontroleerd zou zijn gemarkeerd en weinig mensen was opgevallen. Alleen nog wat typisch Wikipediaanse plichtplegingen als een vet onderwerp, ref-tags en categorieën, en daar staat je AI-gegenereerde Wiki-artikel. Apdency (overleg) 11 jun 2023 15:39 (CEST)

       Als de AI ook ons geruzie over E-NE kan overnemen, dan kunnen wij een andere hobby gaan zoeken... (moet ineens denken aan die dikke mensen uit WALL-E die niets meer zelf kunnen) Thieu1972 (overleg) 11 jun 2023 21:33 (CEST)

       :-) Misschien kan iemand met zo'n detectieprogramma kijken of het bovenstaande voorbeeld door de mand zou vallen? Apdency (overleg) 12 jun 2023 18:38 (CEST)

       Daar ben ik ook benieuwd naar. In het verlengde hiervan: ik heb dat tekstje (via mijn kladblok) aan Earwig voorgelegd. Die "zei": 0% copyvio. Dat is in ieder geval wat. Wellicht is het stukje echter wat aan de korte kant. Wutsje 12 jun 2023 19:02 (CEST)

       Ja, dat is zeker interessant. En het klopt dat het wat aan de korte kant is. Soms krijg ik langere antwoorden, bij complexere vragen als "Zijn de betrekkingen tussen Nederland en België goed te noemen?". Ik kan het resultaat eventueel ook beschikbaar stellen. Wat opvalt is dat en.wikipedia.org vrij vaak als bron wordt genoemd. Apdency (overleg) 12 jun 2023 19:18 (CEST)

   Een aantal nee stemmers zullen ook wel programmeurs of computerwetenschappers zijn.

   Er vanuit gaan dat er geen/amper mensen met expertise nee stemmen lijkt me een slechte aanname. 2A02:A44C:23B9:1:C4CF:BC2A:D580:13D6 18 jun 2023 12:40 (CEST)

6. StuivertjeWisselen (overleg) 12 jun 2023 21:11 (CEST) Per Bas, maar eigenlijk ook de overige tegenstemmers. En laat ik hier de volgende zijn die expliciete steun uitspreekt voor verplichte bronvermelding.
   • Misschien vind je het niet erg dat ik dan nogmaals wijs op het bovenstaande kleine experiment met de waarnemend landdrost, waarbij zowel artikeltekst als 3 bijbehorende bronnen keurig uit het AI-programma kwamen rollen. Ik heb daarvoor geen enkel schrijf- of spitwerk hoeven verrichten. Apdency (overleg) 13 jun 2023 18:29 (CEST)
7. Lidewij (overleg) 15 jun 2023 10:06 (CEST) Wie controleert wat, wat is, als het bij nuweg wordt gezet? Daar gaat het nu, in mijn ogen, al regelmatig mis. De richtlijnen worden telkens opgerekt. Gisteren M&G Group gezien als reclame, kan een prima lemma worden. Ter Meulen (geslacht) hoog in de overnamen %, door de literatuurlijst en een lange zin. Met Frans-Aert Burghgraef is het ook goed gekomen. Waarom worden deze richtlijnen niet beter nageleefd er is toch de TBP? Er moeten wel nieuwe bewerkers bij kunnen komen. Nu nog een categorie bij de Nuweg. Ik heb geen vertrouwen. Met het nuweg, kan er door de gemeenschap niets worden bekeken en wordt niets geleerd. Zet deze lemma's buiten de hoofdnaamruimte, waar aan pagina's kan worden gewerkt, en evalueer na een jaar. Er is geen extra belasting op de TBP-lijst. Verder eens met bovenstaande, maar met het bronnen verplicht stellen zullen sommige onder ons dit als een vrijbrief zien om alles zonder bronnen Nuweg te zetten. Wat ik al schreef " Er moeten wel nieuwe bewerkers bij kunnen komen. " En die starten merendeels niet met een encyclopedische geschreven pagina.

   Ik stoor me aan je beschuldiging dat er de hand zou worden gelicht met de nuwegcriteria. 'M&G Group' was een uitermate promotioneel verhaal over sterke merken, innovatieve oplossingen en kernwaarden, waarbij het woordje 'we' in een zin eigenlijk al genoeg zegt. 'Ter Meulen' was gewoon copyvio. En 'Frans-Aert Burghgraef' was zowel copyvio als een promotioneel verhaal. Kortom: allemaal nuweg-criteria die gewoon zijn nageleefd. Nieuwe bewerkers zijn welkom, maar er zijn toch echt een paar regels waar men zich aan dient te houden. Thieu1972 (overleg) 15 jun 2023 18:22 (CEST)

   En verder natuurlijk ook erg bedankt voor het verrijken van deze discussie met een onderwerp dat er niets mee van doen heeft en waar we niets aan hebben. Wil je je verdedigen, Lidewij? Doe maar elders. Apdency (overleg) 15 jun 2023 18:41 (CEST)

   Het heeft er wel degelijk wat mee van doen: een beschuldiging over het kennelijk lakse nuweg-gedrag van een aantal moderatoren wordt door Lidewij gebruikt als argument om tegen het voorstel te stemmen. Een AI-tekst mag dus geen nuwegcriterium worden omdat het nu 'al regelmatig mis' zou gaan met nuwegjes. Maar de gegeven voorbeelden overtuigen niet echt. Wat blijft er dan van het argument over? Niet veel, behalve dat er weer een naar geurtje blijft hangen dat mods er maar een zooitje van maken. Thieu1972 (overleg) 15 jun 2023 18:51 (CEST)

   Er was misschien best iets van te maken - maar het was ook een auteursrechtenschending (teksten die in de eerste persoon zijn geschreven, zijn dat best wel vaak), dus dat was een zinloze missie op basis daarvan. Dat de criteria af en toe wat opgerekt worden, merk je wel vaker - en in algemene zin ben ik wel een voorstander van "bij twijfel niet direct verwijderen maar op de verwijderlijst". Dat argument is op zich vrij terecht (kun je het al dan niet mee eens zijn) maar de voorbeelden maken het misschien onnodig persoonlijk. -- Effeietsanders (overleg) 15 jun 2023 19:00 (CEST)

   OK, het staat ieder vrij de afdwaling van Lidewij serieus te nemen en hier te vergroten. Ik vind haar OP daarvoor geschikter, maar dat is ook maar een mening. Apdency (overleg) 15 jun 2023 19:07 (CEST)

   Er is geen discussie nodig, ik heb de dingen die onderdeel waren van mijn overweging gemeld. En het gaat maar over nog geen 10%, maar wel zeer actieve gebruikers. Nieuwe gebruikers leveren nu eenmaal vaak als eerste bijdrage lemma's met problemen. Het gaat om nieuwe gebruikers die serieus aan een nieuw lemma werkte. Een aantal langere actieve gebruikers hebben hun stikkers klaar liggen voor een serieuze bijdrage of vandalist. Soms spreek ik iemand aan op zijn/haar nuweg nominatie. Sommige blijven vinden dat er juist wordt/werd gehandeld. We kunnen het er over eens zijn dat we het niet eens zijn. Lidewij (overleg) 16 jun 2023 00:00 (CEST)

De peiling is gesloten.

Geen voorkeur/ Andere mening

1. Karmakolle (overleg) 7 jun 2023 15:17 (CEST) - AI-bijdragen moeten we bestrijden door het aanscherpen van onze bronvereisten. Een gehallucineerde bron kunnen we tenminste zelf opsporen, voor gehallucineerde tekst zijn we afhankelijk van detectietools die dezelfde algoritmes gebruiken als wat we willen verbieden.
2. RonnieV (overleg) 7 jun 2023 16:49 (CEST) - In grote lijnen ben ik het eens met Apdency: AI-teksten genereren vraagt veel energie, het controleren van de bewerkingen vraagt veel energie (zowel stroom als van collega-bewerkers), de kwaliteit van de teksten is oppervlakkig gezien waarschijnlijk goed maar bij een strengere, inhoudelijke beoordeling valt deze door de mand en het gebruik van bronnen (overigens keurig met bron gegeven) is te vaak teleurstellend: de bron bestaat maar dekt de lading niet (overigens komt dit ook bij menselijke bewerkers voor). Het probleem van de handhaafbaarheid (controleerbaarheid) is echter een gegeven, en dat wordt niet makkelijker met de toevoeging 'Duidelijk onbewerkte tekst'. Zodra een bewerker een wijziging (welke dan ook) in de tekst heeft aangebracht is er letterlijk gezien geen sprake meer van een onbewerkte tekst. Het risico bestaat dat dit aanleiding gaat geven tot veel discussie, waardoor we onszelf in onze voet schieten met deze formulering. ('Deze tekst komt van AI.' 'Nee hoor, ik heb hem bewerkt. Zie die opzettelijke spelfout in de derde zin van de vijftiende alinea.') Anderzijds moeten we voorzichtig zijn met nuweg: de toegestane redenen zijn limitatief en dat is niet zonder reden. Helaas heb ik nuweg in het verleden te snel zien plakken op artikelen die niet voldoen aan de strikte voorwaarden.
3. HenkvD (overleg) 8 jun 2023 10:25 (CEST) Ik ben van mening dat AI gegenereerde teksten zeer sterk afgeraden moeten worden. Grondig bewerkte en gecontroleerde teksten zouden wel mogelijk moeten zijn. Het gevaar van nuweg-gen bij vermoeden van AI gegeneerde tekst lijkt mij te groot. De normale beoordelingscriteria en beoordelingsprocedures zouden hiervoor voldoende moeten zijn. HenkvD (overleg) 8 jun 2023 10:25 (CEST)
4. HT (overleg) 13 jun 2023 18:23 (CEST) AI is géén betrouwbare of gezaghebbende bron. Er valt dus niet te "peilen" of AI vanaf 1 juli 2024 wordt toegestaan. Het mag gewoon niet, ook niet na 1 juli 2024. Waar is trouwens de discussie over deze kwestie en datum?
5. Inertia6084 - Overleg 15 jun 2023 12:19 (CEST) Ik ben nog onvoldoende op de hoogte van dit, ook na het lezen van enkele stemverklaringen.
6. LeeGer 17 jun 2023 01:00 (CEST) Ik houd me niet zo met AI bezig. Ben er wel huiverig voor. Wat ik ervan hoor verbeteren de systemen zich razendsnel. Dan vraag ik me af of zo'n verbod ook enig praktisch nut heeft en niet puur symbolisch blijkt? Is zo'n door AI geschreven tekst straks nog wel te onderscheiden van door een mens geschreven tekst?

   Als iemand met een compsci achtergrond:

   Het is een boel hype en we zijn er nog niet.

   Neural nets kunnen niet veel beter worden zonder een beter begrip van de wereld zelf, wat niet schaalt als je neural nets gebruikt.

   Het probleem dat Wikipedia later misschien niet meer copyleft is of dat iemand het gebruikt om edit wars te winnen of om te propaganderen is veel risico voller.

   Het moeilijkste van een artikel is alle referenties nalopen, samenvatten en correct integreren zonder WP:NPOV of WP:DUE of WP:SYNTH of WP:coatrack te breken (onder andere).

   Hiervoor heeft men zowel een beter begrip van de wereld nodig dan "wat is het meest waarschijnlijk volgende woord?" en ook een "theory of mind" van andere bewerkers en wat hun er van zouden vinden. Bart Terpstra (overleg) 20 jun 2023 23:21 (CEST)

7. ♠ Troefkaart (overleg) 17 jun 2023 19:16 (CEST) Aanpassing stelling: "Duidelijk onbewerkte, door AI gegenereerde tekst mag onmiddellijk verwijderd worden." Altijd, zonder datum. Heb geen enkel probleem met kundig bewerkte teksten die een AI oorsprong hebben. Denk dat we dat binnen enkele jaren zelfs graag willen en de oorsprong dan toch niet meer kunnen ontdekken, maar pin me hier niet op vast. Herinner me hieraan over een jaar of vijf.

De peiling is gesloten.

Uitslag

• Ja, het gebruik van onbewerkte door AI zoals ChatGPT gegenereerde tekst is tot 1 juli 2024 niet toegestaan. Inhoud die duidelijk afkomstig is van een AI tool mag onmiddellijk worden verwijderd: 33 stemmen
• Nee, het gebruik van onbewerkte door AI zoals ChatGPT gegenereerde tekst is toegestaan. Incorrecte tekst zal via de reguliere beoordelingsprocedure verwerkt worden: 7 stemmen
• Geen voorkeur/ Andere mening: 7 stemmen