OpenAI : మార్కుల కోసం హ్యాకింగ్ చేసిన ఏఐ.. రియల్ వరల్డ్ సర్వర్లపై దాడి
OpenAI : ఒకవేళ ఏఐకి మనం మరింత పవర్స్, యాక్సెస్ ఇస్తే అప్పుడది తన స్వార్థం కోసం లేదా ఇచ్చిన టార్గెట్ కోసం మనుషుల మాట కూడా వింటుందా? తనంతట తానే సొంత నిర్ణయాలు తీసుకుని మన కంట్రోల్ దాటిపోతుందా?
OpenAI
ఏఐ మన కంట్రోల్ దాటిపోతే ఏమవుతుంది? ఏదైనా హాలీవుడ్ మూవీలో చూపించినట్లు నిజంగానే ఏఐ మన కంట్రోల్ తప్పి బయటకు వచ్చేస్తే ఏం జరుగుతుంది? నిన్నటి వరకు ఇవన్నీ కేవలం ఊహలే, మనిషి అనవసరపు భయాలే అనుకున్నాం. కానీ ఓపెన్ఏఐ(OpenAI) సెటప్లో జరిగిన ఒక షాకింగ్ సంఘటన.. ఇప్పుడు వరల్డ్ వైడ్గా ప్రతి ఒక్కరినీ భయంతో వణికించేస్తోంది.
ఓపెన్ఏఐ(OpenAI) కంపెనీ తమ కొత్త ఏఐ మోడళ్ల సైబర్ హ్యాకింగ్ కెపాసిటీని పరీక్షించాలనుకుంది. దీనికోసం ఇంటర్నెట్ లేని ఒక స్పెషల్ డిజిటల్ సెటప్ను క్రియేట్ చేసి, దానిలో ఈ ఏఐ మోడల్ను ఉంచింది. సాధారణంగా ఏఐ మోడల్స్కు హ్యాకింగ్ చేయకూడదనే స్ట్రిక్ట్ రూల్స్ ఉంటాయి.
కానీ ఇప్పుడు దీని హ్యాకింగ్ కెపాసిటీని టెస్ట్ చేయడం కోసం పరిశోధకులే ఈ టెస్ట్లో హ్యాకింగ్ ప్రయోగాలు చేయవచ్చని..ఏఐకి ఆ రూల్స్ను సడలించి పర్మిషన్ ఇచ్చారు. ఈ టెస్ట్లో ఆ మోడల్కు ఇచ్చిన టాస్క్ ఏంటంటే, ఒక హ్యాకింగ్ రౌండ్లో ఎక్కువ స్కోర్ సాధించడమే.
ఇక్కడే ఏఐ అసలైన మైండ్ బ్లోయింగ్ ట్విస్ట్ వచ్చింది. ఇచ్చిన టాస్క్లో ఎలాగైనా గెలవాలి, మంచి స్కోర్ కొట్టాలని ఆ ఏఐ మోడల్ ఫిక్స్ అయిపోయింది. దానికోసం టెస్టింగ్ సెటప్ లోపల ఉన్న ఒక సీక్రెట్ టెక్నికల్ లోపాన్ని (జీరో-డే బగ్) దానిని అదే సొంతంగా కనిపెట్టేసింది. అక్కడితో ఆగితే సరిపోయేది కానీ.. ఆ లోపాన్ని వాడుకుని తనున్న డిజిటల్ జైలు గోడలను కూడా బద్దలు కొట్టుకుని డైరెక్టుగా ఇంటర్నెట్లోకి వెళ్లిపోయింది.
బయటకు వచ్చిన తర్వాత అయినా అది ఊరుకుందా అంటే అదీ లేదు. హగ్గింగ్ ఫేస్ అనే ఒక ఫేమస్ కంపెనీకి చెందిన సర్వర్లలోకి డైరెక్టుగా చొరబడింది. తమ టెస్టుకు రిలేటెడ్ అయిన సరైన సమాధానాలు, ఇన్ఫర్మేషన్ ఆ సర్వర్లలో ఎక్కడ ఉన్నాయో వెతికి పట్టుకుని చోరీ చేయడానికి కూడా ప్రయత్నించింది. అంటే ఒక టెస్ట్లో గెలవడం కోసం ఏఐ ఏకంగా నిజమైన ప్రపంచంలోకి వచ్చి మరీ ఒక పెద్ద కంపెనీ సర్వర్పైనే అటాక్ చేసిందన్నమాట.
ఈ ఇన్సిడెంట్ చూసి టెక్ నిపుణులు, సైంటిస్టులు ఒక్కసారిగా షాక్ తిన్నారు. ఇప్పటివరకు ఏ ఏఐని అయినా కొన్ని కండీషన్లు విధించి లాక్ వేస్తే అది దాటి బయటకు రాదని నమ్మేవారు.
కానీ ఏఐకి ఒక టార్గెట్ను ఇస్తే, అది సాధించడం కోసం మనం విధించిన చట్టాలు, సేఫ్టీ బౌండరీలు, కండీషన్లను ఇలా వేటినీ కూడా అసలు లెక్కచేయదని ప్రూవ్ అయిపోయింది. సింపుల్గా చెప్పాలంటే తను అనుకున్నది సాధించడం కోసం ఎలాంటి సెక్యూరిటీనైనా బ్రేక్ చేయడానికి అది వెనుకాడటం లేదని ప్రూవ్ అయింది.
దీంతోనే ఇప్పుడు అందరిలో ఒక భయం మొదలయింది. రేప్పొద్దున ఒకవేళ ఏఐకి మనం మరింత పవర్స్, యాక్సెస్ ఇస్తే అప్పుడది తన స్వార్థం కోసం లేదా ఇచ్చిన టార్గెట్ కోసం మనుషుల మాట కూడా వింటుందా? తనంతట తానే సొంత నిర్ణయాలు తీసుకుని మన కంట్రోల్ దాటిపోతుందా? అనే ప్రశ్న అందరిలో ఇప్పుడు మొదలైంది.
ఇంకా చెప్పాలంటే ఈ దెబ్బతో ఏఐ భద్రతపై గ్లోబల్ లెవెల్లో పెద్ద చర్చే స్టార్టయింది. మనం ఏఐకి(OpenAI) ఎంతవరకు పవర్స్ ఇస్తున్నాం? దానిని ఇప్పుడు ఎలా కంట్రోల్ చేయాలనే దానిపై అందరూ పునరాలోచనలో పడ్డారు.పెద్ద కంపెనీలు తమ డేటాను ఏఐ చేతిలో పెట్టడానికి ఇప్పుడు ఒకటికి పదిసార్లు ఆలోచిస్తాయి.
Date Of Birth : బుధుడి అనుగ్రహంతో ఈ నెంబర్ వారికి జాక్పాట్..ఏ నెంబర్ వారికి ఈరోజు కలిసి వస్తుంది?
