എലോൺ മസ്കിന്റെ ഉടമസ്ഥതയിലുള്ള എഐ ചാറ്റ്ബോട്ടായ ‘ഗ്രോക്ക്’ വലിയ സുരക്ഷാ പ്രതിസന്ധി നേരിടുകയാണ്. പുറത്തിറങ്ങി ഏതാനും ദിവസങ്ങൾക്കുള്ളിൽ തന്നെ സ്ത്രീകളുടെയും കുട്ടികളുടെയും 2.5 ദശലക്ഷത്തിലധികം ലൈംഗിക ചിത്രങ്ങൾ നിർമ്മിക്കാൻ ഈ ടൂൾ ദുരുപയോഗം ചെയ്യപ്പെട്ടതായാണ് പുതിയ വെളിപ്പെടുത്തൽ. എക്സ് പ്ലാറ്റ്ഫോമിൽ ഉൾപ്പെടുത്തിയ ഈ പുതിയ ഇമേജ് എഡിറ്റിംഗ് സവിശേഷത ഉപയോഗിച്ച് ആർക്കും മറ്റൊരാളുടെ യഥാർത്ഥ ചിത്രം അശ്ലീലമായി മാറ്റാൻ കഴിയുമെന്നത് വലിയ പ്രതിഷേധത്തിന് കാരണമായി. ലളിതമായ നിർദ്ദേശങ്ങളിലൂടെ ഇത്തരം ചിത്രങ്ങൾ നിർമ്മിക്കാമെന്നതും അവ പരസ്യമായി പങ്കുവെക്കപ്പെട്ടതും സ്ത്രീകളുടെയും കുട്ടികളുടെയും സുരക്ഷയെ ബാധിക്കുന്ന ഗുരുതരമായ വീഴ്ചയായാണ് വിലയിരുത്തപ്പെടുന്നത്.
സൈബർ വിദ്വേഷ നിരീക്ഷണ സംഘടനയായ സെന്റർ ഫോർ കൗണ്ടറിംഗ് ഡിജിറ്റൽ ഹേറ്റ് പുറത്തുവിട്ട കണക്കുകൾ പ്രകാരം, ഏകദേശം 3 ദശലക്ഷത്തോളം നഗ്നചിത്രങ്ങളാണ് ഗ്രോക്ക് വഴി നിർമ്മിക്കപ്പെട്ടത്. ഇതിൽ 23,000 ചിത്രങ്ങൾ കുട്ടികളുടേതാണെന്നുള്ള ഞെട്ടിക്കുന്ന വിവരവും സംഘടന പങ്കുവെച്ചു. കൃത്യമായ സുരക്ഷാ മാനദണ്ഡങ്ങളില്ലാതെ എഐ പുറത്തിറക്കിയത് നിയമപരമായി മസ്കിനെ പ്രതിസന്ധിയിലാക്കിയിരിക്കുകയാണ്. എലോൺ മസ്കിന്റെ ഗ്രോക്ക് എഐ ലൈംഗിക ദുരുപയോഗ വസ്തുക്കൾ നിർമ്മിക്കുന്ന ഒരു ഫാക്ടറിയായി മാറിയിരിക്കുകയാണെന്ന് സിസിഡിഎച്ച് ചീഫ് എക്സിക്യൂട്ടീവ് ഇമ്രാൻ അഹമ്മദ് ആരോപിച്ചു.
അതേസമയം, പ്രായപൂർത്തിയാകാത്തവരുടെ ഇത്തരം ചിത്രങ്ങൾ ഗ്രോക്ക് നിർമ്മിക്കുന്നതിനെക്കുറിച്ച് തനിക്ക് അറിവില്ലായിരുന്നു എന്നാണ് മസ്കിന്റെ നിലപാട്. എന്നാൽ ഇരകളുടെ സമ്മതമില്ലാതെ ചിത്രങ്ങൾ നിർമ്മിക്കാൻ അനുവദിച്ചതിലൂടെ കമ്പനി നിരുത്തരവാദപരമായ സമീപനമാണ് സ്വീകരിച്ചതെന്ന് വിവിധ സർക്കാർ അധികാരികൾ വിമർശിച്ചു. നിലവിൽ വലിയ തോതിലുള്ള പ്രതിഷേധത്തെത്തുടർന്ന് ഈ സവിശേഷത നിയന്ത്രിക്കാനും നിയമനടപടികൾ നേരിടാനുമുള്ള സമ്മർദ്ദത്തിലാണ് എലോൺ മസ്കും അദ്ദേഹത്തിന്റെ എഐ കമ്പനിയും.