In Amerika is een advocaat in de problemen geraakt door ChatGPT. Uitspraken die de advocaat aanhaalde ter verdediging bestonden helemaal niet. Hoe die aan deze uitspraken kwam? ChatGPT. Het programma had namelijk uitspraken naar voren gebracht die helemaal niet waar bleken te zijn en de advocaat kwam hier pas in de rechtszaal achter. Hoe de advocaat in de problemen kwam door ChatGPT lees je in deze blog.
Wat is ChatGPT?
ChatGPT is zoals bij velen al bekend, een taalverwerkingstool aangedreven door AI-technologie waarmee je mensachtige gesprekken kunt voeren met de chatbot en de tool kunt gebruiken om informatie te krijgen. ChatGPT kan vragen beantwoorden en je helpen met taken, zoals het opstellen van e-mails, planningen en rapporten. De functionaliteit van ChatGPT is breed, maar hier zijn altijd risico’s aan gebonden. Zoals een advocaat heeft gemerkt toen hij zijn klant verdedigde.
De zaak
Steven A. Schwarts was zijn klant aan het verdedigen. De klant van Schwartz had de luchtvaartmaatschappij Avianca aangeklaagd, omdat de klant beweerde dat hij gewond was geraakt toen een metalen serveerwagen zijn knie raakte tijdens een vlucht in augustus 2019 van El Salvador naar New York.
Avianca vroeg aan de rechter om de rechtszaak af te wijzen omdat de verjaringstermijn was verstreken. De advocaten van de heer Mata reageerden met een brief van 10 pagina’s waarin ze meer dan zes gerechtelijke uitspraken citeerden, met namen als Martinez v. Delta Air Lines, Zicherman v. Korean Air Lines en Varghese v. China Southern Airlines, ter ondersteuning van hun argument dat de zaak moet worden toegestaan om verder te gaan.
Het gebruiken van ChatGPT
Nadat de advocaten van Avianca de uitspraken gesteld in de brief van Steven A. Schwarts niet konden vinden, beval de rechter om kopieën te verstrekken van de uitspraken. Er werd een samenvattend handboek ingediend waaruit bleek dat de citeerde gerechtelijke uitspraken niet bestonden.
De heer Schwartz, die al 30 jaar advocaat is in New York, zei in een verklaring die bij de rechter werd ingediend dat hij gebruik heeft gemaakt van ChatGPT zonder de genoemde uitspraken te controleren. Als bewijsstuk heeft de heer Schwartz zijn transcriptie en gestelde vragen aan ChatGPT ingediend om aan te geven dat hij niet verkeerd heeft gehandeld.
De heer Schwartz had van ChatGPT gehoord van zijn schoolgaande kinderen en uit artikelen, maar dat hij het nooit professioneel had gebruikt. Hij vertelde aan de rechter dat hij dacht dat ChatGPT een groter bereik had dan standaarddatabases.
Naar de rechter
De heer Steven A. Schwartz bijna twee uur lang aan de tand gevoeld door de rechter tijdens een hoorzitting na de onthulling dat de advocaat een juridische brief had opgesteld voor een zaak in de federale districtsrechtbank die vol stond met valse gerechtelijke adviezen en juridische citaten, allemaal gegenereerd door ChatGPT. De rechter, zei dat hij nu zou overwegen of hij sancties zou opleggen aan de heer Schwartz. Tijdens de zaak kon Steven A. Schwartz gehoord worden de volgende uitingen gedaan te hebben:
- “I did not comprehend that ChatGPT could fabricate cases”;
- “I continued to be duped by ChatGPT. It’s embarrassing”;
- “I heard about this new site, which I falsely assumed was, like, a super search engine”.
De rechter heeft ook verschillende directe vragen gesteld waaronder of de heer Schwartz de geciteerde uitspraken had gelezen waarop de heer Schwartz antwoorde met “nee”, en of de heer Schwartz enige handelingen heeft genomen om zich te vergewissen dat de uitspraken bestonden, waarop de heer Schwarts weer antwoorde met “nee”.
ChatGPT gebruiken voor het schrijven van stukken
Zoals te merken valt, is ChatGPT geen wondermiddel dat je kunt inzetten voor het opstellen van stukken. Ook ChatGPT maakt fouten en biedt informatie aan die verouderd of niet bestaat. ChatGPT heeft nog steeds controle nodig, het is een handige tool voor het het verkrijgen van oppervlakkige informatie, maar zeker niet geavanceerd genoeg om stukken op te stellen die direct gebruikt kunnen worden in een rechtszaak, zoals gemerkt door Steven A. Schwartz.
Blijf up-to-date over nieuws en andere interessante informatie!
Bij Juristenblog.nl proberen we je zo adequaat mogelijk te informeren over veel aspecten van rechtspraken. Vond je deze blog interessant? Houd dan ook zeker onze andere blogartikelen in de gaten!
In Amerika is een advocaat in de problemen geraakt door ChatGPT. Uitspraken die de advocaat aanhaalde ter verdediging bestonden helemaal niet. Hoe die aan deze uitspraken kwam? ChatGPT. Het programma had namelijk uitspraken naar voren gebracht die helemaal niet waar bleken te zijn en de advocaat kwam hier pas in de rechtszaal achter. Hoe de advocaat in de problemen kwam door ChatGPT lees je in deze blog.
Wat is ChatGPT?
ChatGPT is zoals bij velen al bekend, een taalverwerkingstool aangedreven door AI-technologie waarmee je mensachtige gesprekken kunt voeren met de chatbot en de tool kunt gebruiken om informatie te krijgen. ChatGPT kan vragen beantwoorden en je helpen met taken, zoals het opstellen van e-mails, planningen en rapporten. De functionaliteit van ChatGPT is breed, maar hier zijn altijd risico’s aan gebonden. Zoals een advocaat heeft gemerkt toen hij zijn klant verdedigde.
De zaak
Steven A. Schwarts was zijn klant aan het verdedigen. De klant van Schwartz had de luchtvaartmaatschappij Avianca aangeklaagd, omdat de klant beweerde dat hij gewond was geraakt toen een metalen serveerwagen zijn knie raakte tijdens een vlucht in augustus 2019 van El Salvador naar New York.
Avianca vroeg aan de rechter om de rechtszaak af te wijzen omdat de verjaringstermijn was verstreken. De advocaten van de heer Mata reageerden met een brief van 10 pagina’s waarin ze meer dan zes gerechtelijke uitspraken citeerden, met namen als Martinez v. Delta Air Lines, Zicherman v. Korean Air Lines en Varghese v. China Southern Airlines, ter ondersteuning van hun argument dat de zaak moet worden toegestaan om verder te gaan.
Het gebruiken van ChatGPT
Nadat de advocaten van Avianca de uitspraken gesteld in de brief van Steven A. Schwarts niet konden vinden, beval de rechter om kopieën te verstrekken van de uitspraken. Er werd een samenvattend handboek ingediend waaruit bleek dat de citeerde gerechtelijke uitspraken niet bestonden.
De heer Schwartz, die al 30 jaar advocaat is in New York, zei in een verklaring die bij de rechter werd ingediend dat hij gebruik heeft gemaakt van ChatGPT zonder de genoemde uitspraken te controleren. Als bewijsstuk heeft de heer Schwartz zijn transcriptie en gestelde vragen aan ChatGPT ingediend om aan te geven dat hij niet verkeerd heeft gehandeld.
De heer Schwartz had van ChatGPT gehoord van zijn schoolgaande kinderen en uit artikelen, maar dat hij het nooit professioneel had gebruikt. Hij vertelde aan de rechter dat hij dacht dat ChatGPT een groter bereik had dan standaarddatabases.
Naar de rechter
De heer Steven A. Schwartz bijna twee uur lang aan de tand gevoeld door de rechter tijdens een hoorzitting na de onthulling dat de advocaat een juridische brief had opgesteld voor een zaak in de federale districtsrechtbank die vol stond met valse gerechtelijke adviezen en juridische citaten, allemaal gegenereerd door ChatGPT. De rechter, zei dat hij nu zou overwegen of hij sancties zou opleggen aan de heer Schwartz. Tijdens de zaak kon Steven A. Schwartz gehoord worden de volgende uitingen gedaan te hebben:
- “I did not comprehend that ChatGPT could fabricate cases”;
- “I continued to be duped by ChatGPT. It’s embarrassing”;
- “I heard about this new site, which I falsely assumed was, like, a super search engine”.
De rechter heeft ook verschillende directe vragen gesteld waaronder of de heer Schwartz de geciteerde uitspraken had gelezen waarop de heer Schwartz antwoorde met “nee”, en of de heer Schwartz enige handelingen heeft genomen om zich te vergewissen dat de uitspraken bestonden, waarop de heer Schwarts weer antwoorde met “nee”.
ChatGPT gebruiken voor het schrijven van stukken
Zoals te merken valt, is ChatGPT geen wondermiddel dat je kunt inzetten voor het opstellen van stukken. Ook ChatGPT maakt fouten en biedt informatie aan die verouderd of niet bestaat. ChatGPT heeft nog steeds controle nodig, het is een handige tool voor het het verkrijgen van oppervlakkige informatie, maar zeker niet geavanceerd genoeg om stukken op te stellen die direct gebruikt kunnen worden in een rechtszaak, zoals gemerkt door Steven A. Schwartz.
Blijf up-to-date over nieuws en andere interessante informatie!
Bij Juristenblog.nl proberen we je zo adequaat mogelijk te informeren over veel aspecten van rechtspraken. Vond je deze blog interessant? Houd dan ook zeker onze andere blogartikelen in de gaten!
Over Juristenblog.nl
Het team van Juristenblog.nl bestaat uit ervaren juristen. Wekelijks wordt onderzoek gedaan naar interessante onderwerpen waarover geschreven kan worden. Vervolgens schrijft de jurist met de meeste kennis van het onderwerp de betreffende blog. Op deze manier blijft ons concept up-to-date en relevant.
Schrijf je in & Blijf op de hoogte
Laat hieronder je e-mailadres achter en ontvang elke maandagochtend een overzicht van de meest recente berichten die op juristenblog.nl zijn verschenen.
We spammen niet. Je kunt je op ieder moment uitschrijven.
