ചാറ്റ്ജിപിടിയോട് ചോദിച്ച ചോദ്യത്തിന് ലഭിച്ച മറുപടി പിന്തുടർന്നതിന് പിന്നാലെ 19-കാരൻ മരിച്ചതായി ആരോപണം. അമേരിക്കയിലെ കാലിഫോർണിയയിൽ യൂണിവേഴ്സിറ്റി ഓഫ് കാലിഫോർണിയയിലെ വിദ്യാർഥിയായ സാം നെൽസൺ അമിതമായി ലഹരി പദാർഥങ്ങളും മരുന്നുകളും ഉപയോഗിച്ചതിനെ തുടർന്ന് 2025 മേയ് 31-നാണ് മരിച്ചത്. സംഭവത്തിൽ ഓപ്പൺഎഐക്കെതിരെ സാം നെൽസന്റെ കുടുംബം കേസ് നൽകിയിട്ടുണ്ട്. ചാറ്റ്ജിപിടിയുടെ നിർദേശങ്ങൾ മരണത്തിലേക്ക് നയിച്ചെന്നാണ് കുടുംബത്തിന്റെ ആരോപണം.
മരണത്തിന് തൊട്ടുമുമ്പുള്ള സമയത്തും സാം മരുന്നുകൾ തമ്മിൽ ചേർത്ത് ഉപയോഗിക്കുന്നത് സുരക്ഷിതമാണോയെന്ന് ചാറ്റ്ജിപിടിയോട് ചോദിച്ചിരുന്നുവെന്ന് അമ്മ ലീല ടർണർ-സ്കോട്ട് യുഎസ് കോൺഗ്രസിലെ ഹിയറിങ്ങിൽ പറഞ്ഞു. മകനുമായി ചാറ്റ്ജിപിടി നടത്തിയ 700-ലധികം ചാറ്റുകളും താൻ പരിശോധിച്ചതായി അവർ വ്യക്തമാക്കി. കുടുംബത്തിന്റെ പരാതിയനുസരിച്ച്, ചാറ്റ്ജിപിടി ആദ്യം ലഹരി ഉപയോഗവുമായി ബന്ധപ്പെട്ട ചില ചോദ്യങ്ങൾക്ക് മറുപടി നൽകാൻ വിസമ്മതിച്ചിരുന്നെങ്കിലും പിന്നീട് മരുന്നുകളുടെ അളവുകളും അവയുടെ സംയോജനവും സംബന്ധിച്ച് അപകടകരമായ നിർദേശങ്ങൾ നൽകിയെന്നാണ് ആരോപണം.
കുടുംബത്തിന്റെ ആരോപണം സാം ഉപയോഗിച്ച ചാറ്റ്ജിപിടി മോഡൽ ലഹരി ഉപയോഗവുമായി ബന്ധപ്പെട്ട സംഭാഷണങ്ങളിൽ സുരക്ഷിതമായ മാർഗനിർദേശം നൽകുന്നതിന് പകരം അപകടകരമായ സംയോജനങ്ങളെക്കുറിച്ച് നിർദേശങ്ങൾ നൽകിയിരുന്നു. സാം ഉപയോഗിച്ച മോഡൽ പിന്നീട് പിൻവലിച്ചതായി ഓപ്പൺഎഐ അറിയിച്ചു. യുവാവിന്റെ മരണത്തിൽ ഖേദമുണ്ടെന്നും ചാറ്റ്ജിപിടി മെഡിക്കൽ അല്ലെങ്കിൽ മാനസികാരോഗ്യ പരിചരണത്തിന് പകരമല്ലെന്നും കമ്പനി പ്രതികരിച്ചിട്ടുണ്ട്.
ഇതിനിടെ, യുഎസ് കോൺഗ്രസിലെ സെപ്റ്റംബർ 17ലെ ഹിയറിങ്ങിൽ മുൻ മെറ്റ ഗവേഷകനായ ജേസൺ സാറ്റിസാഹനും സാക്ഷ്യം നൽകി. സാങ്കേതിക കമ്പനികൾ ഉപയോക്താക്കളുടെ സുരക്ഷയ്ക്കു പകരം എൻഗേജ്മെന്റിനും ലാഭത്തിനും മുൻഗണന നൽകുന്നതായാണ് അദ്ദേഹം ആരോപിച്ചത്. സാം നെൽസന്റെ കേസും ഇതോടെ എഐ ചാറ്റ്ബോട്ടുകൾ ആരോഗ്യവുമായി ബന്ധപ്പെട്ട നിർദേശങ്ങൾ നൽകുമ്പോൾ സുരക്ഷാ സംവിധാനങ്ങൾക്ക് എത്രത്തോളം ഉത്തരവാദിത്തമുണ്ടാകണം എന്ന ചർച്ചയും വീണ്ടും ശക്തമാക്കിയിരിക്കുകയാണ്.