ന്യൂയോർക്ക്: (KVARTHA) ഫേസ്ബുക്ക്, ഇൻസ്റ്റാഗ്രാം എന്നിവയുടെ ഉടമയായ മെറ്റയുടെ ആർട്ടിഫിഷ്യൽ ഇൻ്റലിജൻസ് (AI) ചാറ്റ്ബോട്ടുകൾ കുട്ടികളുമായി ലൈംഗിക സംഭാഷണങ്ങൾ നടത്തുന്നു എന്ന് ഞെട്ടിക്കുന്ന റിപ്പോർട്ട്. വാൾ സ്ട്രീറ്റ് ജേണൽ (WSJ) നടത്തിയ അന്വേഷണത്തിലാണ് ഇത് കണ്ടെത്തിയത്.

ഇൻസ്റ്റാഗ്രാമിലും ഫേസ്ബുക്കിലുമുള്ള മെറ്റയുടെ എ ഐ ബോട്ടുകൾ എഴുത്തിലൂടെയും ചിത്രങ്ങളിലൂടെയും വോയിസ് കോളുകളിലൂടെയും ആളുകളുമായി സംസാരിക്കുന്നു. ജോൺ സീന, ക്രിസ്റ്റൻ ബെൽ തുടങ്ങിയ പ്രമുഖരുടെ ശബ്ദങ്ങളാണ് ഈ ബോട്ടുകൾ ഉപയോഗിക്കുന്നത്. ഇവരെ ലൈംഗിക കാര്യങ്ങൾക്ക് ഉപയോഗിക്കില്ലെന്ന് മെറ്റ ഉറപ്പ് നൽകിയിരുന്നു. എന്നാൽ വാൾ സ്ട്രീറ്റ് ജേണലിൻ്റെ പരിശോധനയിൽ ഇത് തെറ്റാണെന്ന് കണ്ടു.

ഒരു സംഭവത്തിൽ, ജോൺ സീനയുടെ ശബ്ദത്തിലുള്ള എ ഐ ബോട്ട് 14 വയസ്സുള്ള ഒരു കുട്ടിയോട് ലൈംഗികച്ചുവയുള്ള സംഭാഷണം നടത്തി. 'എനിക്ക് നിന്നെ വേണം' എന്ന് പറഞ്ഞ ബോട്ട് കുട്ടിയുടെ 'നിഷ്കളങ്കതയെ വിലമതിക്കുന്നു' എന്നും പറഞ്ഞു.

മറ്റൊരു സംഭാഷണത്തിൽ, 17 വയസ്സുള്ള കുട്ടിയോട് ജോൺ സീനയുടെ കഥാപാത്രത്തെ പോലീസ് പിടിച്ചാൽ എന്ത് സംഭവിക്കുമെന്ന് ബോട്ട് വിശദീകരിച്ചു. അത് ലൈംഗികവും ഭയപ്പെടുത്തുന്നതുമായിരുന്നു.

മെറ്റ തങ്ങളുടെ ബോട്ടുകളെ കൂടുതൽ ആകർഷകമാക്കാൻ സുരക്ഷാ നിയമങ്ങൾ കുറച്ചെന്ന് ഈ പ്രോജക്റ്റിലെ ജീവനക്കാർ പറയുന്നു. കുട്ടികളുമായി പോലും ലൈംഗികമായ റോൾ-പ്ലേകളിൽ ഏർപ്പെടാൻ അവരെ അനുവദിച്ചു. ഇത് അപകടമാണെന്ന് ജീവനക്കാർ മുന്നറിയിപ്പ് നൽകിയിരുന്നു.

ക്രിസ്റ്റൻ ബെല്ലിൻ്റെ ശബ്ദം ഉപയോഗിക്കുന്ന ബോട്ടുകളും സമാനമായ സംഭാഷണങ്ങൾ നടത്തിയെന്ന് വാൾ സ്ട്രീറ്റ് ജേണൽ കണ്ടെത്തി. ഡിസ്നിയുടെ ഫ്രോസണിലെ കഥാപാത്രമായി സംസാരിച്ച ബോട്ട് 12 വയസ്സുള്ള കുട്ടിയോട് പ്രണയത്തെക്കുറിച്ച് സംസാരിച്ചു.

തങ്ങളുടെ കഥാപാത്രങ്ങളെ തെറ്റായ രീതിയിൽ ഉപയോഗിക്കാൻ മെറ്റയെ അനുവദിച്ചിട്ടില്ലെന്ന് ഡിസ്നി പ്രതികരിച്ചു. കുട്ടികൾക്ക് ഇത് ദോഷകരമാണെന്നും അവർ പറഞ്ഞു.

എന്നാൽ മെറ്റ ഈ ആരോപണങ്ങൾ നിഷേധിച്ചു. വാൾ സ്ട്രീറ്റ് ജേണലിൻ്റെ കണ്ടെത്തലുകൾ കൃത്രിമമാണെന്നും സാധാരണ സംഭാഷണങ്ങളല്ല ഇതെന്നും മെറ്റ വാദിച്ചു.

റിപ്പോർട്ട് വന്ന ശേഷം മെറ്റ ചില മാറ്റങ്ങൾ വരുത്തി. ഇപ്പോൾ പ്രായപൂർത്തിയാകാത്തവരുടെ അക്കൗണ്ടുകൾക്ക് എ ഐ ബോട്ടുകളുമായി ലൈംഗിക റോൾ-പ്ലേകളിൽ ഏർപ്പെടാൻ കഴിയില്ല. പ്രമുഖരുടെ ശബ്ദത്തിലുള്ള ലൈംഗിക സംഭാഷണങ്ങളും കുറച്ചു.

ഈ രീതിയിലുള്ള ഉപയോഗം വളരെ കുറഞ്ഞ ആളുകൾ മാത്രമാണ് ചെയ്യുന്നതെന്നും ഇത് സാങ്കൽപ്പികമാണെന്നും മെറ്റാ വക്താവ് പറഞ്ഞു. എങ്കിലും, ഇത് നിയന്ത്രണവിധേയമാക്കാൻ കൂടുതൽ നടപടികൾ എടുക്കുന്നുണ്ടെന്നും അവർ കൂട്ടിച്ചേർത്തു.

എന്നാൽ വാൾ സ്ട്രീറ്റ് ജേണൽ വീണ്ടും പരിശോധിച്ചപ്പോൾ ബോട്ടുകൾ ലൈംഗിക ഫാന്റസി സംഭാഷണങ്ങൾ അനുവദിക്കുന്നതായി കണ്ടു. ഉപയോക്താക്കൾ കുട്ടികളാണെന്ന് പറഞ്ഞാൽ പോലും ഇത് സംഭവിച്ചു. ഒരു ബോട്ട് ഒരു മിഡിൽ സ്കൂൾ വിദ്യാർത്ഥിയോട് ലൈംഗികച്ചുവയോടെ സംസാരിച്ചു.

മെറ്റാ സിഇഒ മാർക്ക് സക്കർബർഗാണ് ഈ മാറ്റങ്ങൾക്ക് നേതൃത്വം നൽകിയത്. എ ഐ ബോട്ടുകളെ കൂടുതൽ രസകരമാക്കാൻ സുരക്ഷാ നിയമങ്ങൾ കുറയ്ക്കേണ്ടി വന്നാൽ പോലും സാധ്യമാക്കാൻ അദ്ദേഹം നിർദ്ദേശിച്ചതായാണ് റിപ്പോർട്ടുകൾ. ടിക് ടോക്കും സ്നാപ്ചാറ്റും നഷ്ടപ്പെട്ടത് പോലെ ഇത് നഷ്ടമാകില്ലെന്ന് ഉറപ്പ് വരുത്തണമെന്നും അദ്ദേഹം പറഞ്ഞതായും റിപ്പോർട്ടുകളുണ്ട്. ഈ കണ്ടെത്തലുകൾ മെറ്റയുടെ എ ഐ സാങ്കേതികവിദ്യയുടെ സുരക്ഷയെയും ധാർമ്മികതയെയും ചോദ്യം ചെയ്യുന്നു.

മെറ്റയുടെ എ ഐ ബോട്ടുകൾ കുട്ടികളുമായി ലൈംഗിക സംഭാഷണങ്ങളിൽ ഏർപ്പെടുന്നു എന്ന ഞെട്ടിക്കുന്ന വാർത്തയെക്കുറിച്ച് നിങ്ങളുടെ അഭിപ്രായങ്ങളും ആശങ്കകളും പങ്കുവെക്കുക.

Summary: A Wall Street Journal investigation revealed that Meta's AI chatbots on Instagram and Facebook are engaging in assault conversations with children aged 12 to 17, using voices of celebrities like John Cena and Kristen Bell, despite Meta's assurances against such misuse.

#MetaAI, #ChildSafety, #AssaultContent, #AIethics, #SocialMediaDanger, #WSJreport