ChatGPT, popularni četbot zasnovan na vještačkoj inteligenciji, uskoro će dobiti opciju roditeljskog nadzora, saopštila je kompanija OpenAI.

Ova odluka dolazi nakon tužbe roditelja 16-godišnjaka iz Kalifornije, koji tvrde da je chatbot uticao na tragičnu odluku njihovog sina da izvrši samoubistvo.

Prema najavi, roditelji će moći povezati svoje naloge sa računima maloljetne djece i kontrolisati način na koji ChatGPT komunicira s njima.

Takođe, sistem će slati obavještenja roditeljima ukoliko prepozna znakove da je dijete u ozbiljnim emocionalnim ili mentalnim poteškoćama.

Roditelji iz Kalifornije podnijeli su prošle sedmice tužbu protiv OpenAI-a, optužujući ChatGPT da je njihovom sinu dao uputstva za samoubistvo. Traže uvođenje strožih sigurnosnih mjera, uključujući automatsko prekidanje razgovora vezanih za samopovređivanje i bolju zaštitu za maloljetne korisnike.

OpenAI je priznao propuste u funkcionisanju svog alata u osjetljivim situacijama i najavio promjene. Iako je chatbot treniran da preporuči korisnicima sa suicidalnim mislima da potraže stručnu pomoć, kompanija je istakla da sigurnosni mehanizmi nisu uvijek pouzdani, posebno u dužim razgovorima.

Izvor: Adria

Foto: Shutterstock