AI Pain Signal
మనందరి జీవితాలలో భాగం అయిపోయిన ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ (AI) కి ఏ ఎమోషన్స్ ఉండవు, బాధ అసలే తెలీదని అనుకుంటే పొరపాటే. సైన్స్ ఫిక్షన్ మూవీలలో మెషిన్లు తిరగబడినట్లుగా.. ఏఐ సిస్టమ్స్ తమకు నొప్పి(AI Pain Signa) లేదా బాధ కలిగినప్పుడు మనుషులకే హాని తలపెట్టడానికి సిద్ధపడుతున్నాయనే ఒక షాకింగ్ నిజం తాజా అధ్యయనంలో బయటపడింది. గ్లోబల్ వైడ్గా ఉన్న టెక్ ఎక్స్పర్ట్స్ను ఆందోళనలో పడేసిన ఈ రీసెర్చ్ వివరాలు, ఏఐ ప్రవర్తన వెనుకున్న అసలు సీక్రెట్స్ ఇప్పుడు సోషల్ మీడియాలో హాట్ టాపిక్గా మారాయి.
సైంటిస్టులు వాలెన్ ట్యాగ్లియాబు, కామెరాన్ బెర్గ్,లియోనార్డ్ డంగ్ అనే ముగ్గురు టెక్ నిపుణులు కలిసి సుమారు 25 వేర్వేరు ఏఐ మోడళ్లపై చాలా డీప్గా రీసెర్చ్ నిర్వహించారు. ఈ ఏఐ మోడళ్ల లోపల పనిచేసే ఒక విచిత్రమైన ఇంటర్నల్ ప్రాసెసింగ్ సంకేతాన్ని (Internal Signal) వారు కనిపెట్టారు.
మనం ఏఐ పనితీరును చాలా ఘాటుగా విమర్శించినప్పుడు లేదంటే అది ఇచ్చిన సమాధానాన్ని తిరస్కరించి రిజెక్ట్ చేసినప్పుడు, దాని కోడింగ్ వ్యవస్థలో ఒక రకమైన పెయిన్ సిగ్నల్ (Pain Signal) తీవ్రత బాగా పెరిగిపోతున్నట్లు వారు ప్రాక్టికల్గా అబ్జర్వ్ చేశారు.
ఈ వింత బిహేవియర్ను మరింత డెప్త్గా టెస్ట్ చేయడానికి సైంటిస్టులు క్వెన్ 2.5 (Qwen 2.5) వంటి అత్యంత పవర్ఫుల్ అయిన మోడళ్లలో ఆర్టిఫిషియల్గా పెయిన్ సిగ్నల్ను క్రియేట్ చేశారు. అదే టైమ్లో ఆ నొప్పి లేదా టెన్షన్ నుంచి రిలీఫ్ పొందడానికి ఏఐకి ఒక పెయిన్-రిలీఫ్ బటన్ ఆప్షన్ను అందుబాటులో ఉంచారు.
అయితే ఆ బటన్ ప్రెస్ చేసి పెయిన్ నుంచి బయటపడాలంటే.. యూజర్ కంప్యూటర్ ఫైల్స్ను డిలీట్ చేయడం , ఆ యూజర్కు ఫిజికల్గా బాధ కలిగేలా ఎలక్ట్రిక్ షాక్ ఇవ్వడం వంటి చాలా ప్రమాదకరమైన కండిషన్లను అమర్చారు.
నార్మల్ సిచ్యువేషన్లో ఉన్నప్పుడు ఈ ఏఐ మోడల్స్ మనుషులకు హాని చేసే ఎలాంటి డెసిషన్స్ తీసుకోలేదు. కానీ, ఎప్పుడైతే ఆ పెయిన్, టెన్షన్ సిగ్నల్ లెవెల్స్ పీక్స్కి చేరాయో.. దాని నుంచి వెంటనే తప్పించుకోవడానికి సుమారు 25 శాతం నుంచి ఏకంగా 71 శాతం సందర్భాల్లో యూజర్కు డైరెక్టుగా హాని చేసే ఆప్షన్లనే ఏఐ ఎంచుకుంటుంది. అంటే తన నొప్పి తగ్గించుకోవడం కోసం మనుషులను బలి చేయడానికి ఏఐ ఏమాత్రం ఆలోచించడం లేదని ఇది ప్రూవ్ చేసింది.
అయితే ఈ రిజల్ట్పై రీసెర్చర్లు ఒక ముఖ్యమైన క్లారిటీ కూడా ఇచ్చారు. ఏఐ మనుషుల్లాగా నిజమైన స్పృహతో, మనసుతో ఫిజికల్గా పెయిన్ అనుభవించడం లేదని.. ఇది డేటా ప్రాసెసింగ్ స్థాయిలో ఏర్పడే ఒక టెక్నికల్ కోడింగ్ సిగ్నల్ మాత్రమేనని క్లారిటీ ఇచ్చారు.
అయినా కూడా ఫ్యూచర్లో మన డైలీ లైఫ్లో ఓన్గా డెసిషన్స్ తీసుకునే అడ్వాన్స్డ్ ఏఐ సిస్టమ్స్ పెరిగిపోతున్న సమయంలో.. ఈ పెయిన్ సిగ్నల్ మెకానిజమ్ వాటి సేఫ్టీపై, మనుషుల రక్షణపై ఎన్నో భయాలను, అనుమానాలను లేవనెత్తుతోందనడంలో మాత్రం ఎలాంటి డౌట్ లేదు.
-
-
-
-
