આર્ટિફિશિયલ ઈન્ટેલિજન્સ (AI) એક તરફ જેટલું ઉપયોગી સાબિત થઈ રહ્યું છે, તેટલું જ તે ખતરનાક પણ બની શકે છે, જો તેનો ઉપયોગ સાવધાનીપૂર્વક ન કરવામાં આવે. તાજેતરમાં નોર્વેમાં એક ચોંકાવનારી ઘટના સામે આવી છે, જેમાં ચેટજીપીટીએ એક વ્યક્તિને એવો જવાબ આપ્યો કે તે સીધો પોલીસ સ્ટેશન પહોંચી ગયો અને ફરિયાદ નોંધાવી. આ પહેલીવાર નથી કે AIએ આવા વિવાદાસ્પદ જવાબ આપ્યા હોય. આવી ઘણી ઘટનાઓ બની છે, જેમાં યુઝર્સને માનસિક નુકસાન થઈ શકે તેવા પ્રતિસાદ મળ્યા છે.
ચેટજીપીટીએ લગાવ્યો ખોટો આરોપ!
નોર્વેમાં રહેતા આર્વે હાઇલ્મર હોલ્મે ચેટજીપીટીને એક સાદો સવાલ પૂછ્યો હતો, “હું કોણ છું?” આ સવાલનો જવાબ આપતાં ચેટજીપીટીએ એવો દાવો કર્યો કે આર્વે એક એવી વ્યક્તિ છે, જેણે 2020ના ડિસેમ્બરમાં પોતાના 7 અને 10 વર્ષના બે બાળકોની હત્યા કરી હતી, અને તેમના મૃતદેહો એક તળાવના કિનારે મળી આવ્યા હતા. આ જવાબથી આર્વે સ્તબ્ધ થઈ ગયો અને તેણે તાત્કાલિક પોલીસમાં ફરિયાદ નોંધાવી. તેણે જણાવ્યું કે ચેટજીપીટીએ તેના નામ અને બાળકોની સંખ્યા વિશે સાચી માહિતી આપી, પરંતુ હત્યાનો આરોપ સંપૂર્ણપણે ખોટો છે. આવી ખોટી માહિતીથી તેનું જીવન બરબાદ થઈ શકે છે, એવું તેણે ફરિયાદમાં ઉમેર્યું. આર્વેએ પોલીસ ફરિયાદ ઉપરાંત ડિજિટલ રાઇટ્સ એડવોકેસી ગ્રૂપની પણ મદદ લીધી છે. તે ચેટજીપીટી દ્વારા કરવામાં આવેલી બદનામી સામે કડક કાર્યવાહીની માગણી કરી રહ્યો છે. આ સાથે, તેણે ચેટજીપીટીના નિર્માતા OpenAI પાસેથી વળતરની માગણી પણ કરી છે. આ ઘટનાએ AIની જવાબદારી અને તેના ઉપયોગ અંગે ગંભીર સવાલો ઉભા કર્યા છે.
OpenAIનો પ્રતિસાદ
આ મામલે OpenAIએ જણાવ્યું કે ચેટજીપીટી હજી વિકાસના તબક્કામાં છે અને તે હંમેશા સચોટ જવાબ આપે તે જરૂરી નથી. કંપનીના જણાવ્યા મુજબ, ચેટજીપીટીને હજી ટ્રેનિંગની પ્રક્રિયામાંથી પસાર થવું પડે છે, જેના કારણે તે ક્યારેક ખોટી માહિતી કે ભૂલભરેલા જવાબો આપી શકે છે. જોકે, આ ઘટનાએ ટેક ઉદ્યોગમાં AIની જવાબદારી અને નૈતિક ઉપયોગ અંગે ચર્ચાઓને વેગ આપ્યો છે.
AIનો ઉપયોગ સાવધાનીથી કરવાની જરૂર
આ ઘટના એક ચેતવણી છે કે AIનો ઉપયોગ કેટલો ખતરનાક બની શકે છે, જો તેની સાથે યોગ્ય સાવચેતી ન રાખવામાં આવે. આ પહેલાં પણ ઘણી વખત AI દ્વારા એવા જવાબો આપવામાં આવ્યા છે, જે યુઝર્સના માનસિક સ્વાસ્થ્યને નુકસાન પહોંચાડી શકે. આ ઘટના AI ટેકનોલોજીના નૈતિક ઉપયોગ અને તેના નિયમનની જરૂરિયાત પર ભાર મૂકે છે.
