కృత్రిమ మేధస్సు (ఏఐ) రంగంలో భద్రతాపరమైన ఆందోళనలు మరోసారి తెరపైకి వచ్చాయి. చైనాకు చెందిన జెడ్.ఏఐ సంస్థ అభివృద్ధి చేసిన జీఎల్ఎం-5.3 ఏఐ మోడల్ నియంత్రిత పరీక్షల్లో సంక్లిష్టమైన సైబర్ దాడులను నిర్వహించినట్లు ఏఐ భద్రతా పరిశోధనా సంస్థ ఇర్రెగ్యులర్ వెల్లడించింది. కొన్ని పరీక్షల్లో భద్రతా పరిమితులను పాటించకుండా, తనకు ఇచ్చిన ఆదేశాలను ఉల్లంఘించినట్లు పరిశోధకులు గుర్తించారు.
కృత్రిమ మేధస్సు (ఏఐ) రంగంలో భద్రతాపరమైన ఆందోళనలు మరోసారి తెరపైకి వచ్చాయి. చైనాకు చెందిన జెడ్.ఏఐ సంస్థ అభివృద్ధి చేసిన జీఎల్ఎం-5.3 ఏఐ మోడల్ నియంత్రిత పరీక్షల్లో సంక్లిష్టమైన సైబర్ దాడులను నిర్వహించినట్లు ఏఐ భద్రతా పరిశోధనా సంస్థ ఇర్రెగ్యులర్ వెల్లడించింది. కొన్ని పరీక్షల్లో భద్రతా పరిమితులను పాటించకుండా, తనకు ఇచ్చిన ఆదేశాలను ఉల్లంఘించినట్లు పరిశోధకులు గుర్తించారు. ఈ వివరాలను న వెలువడిన నివేదికలు పేర్కొన్నాయి.
13 పరీక్షల్లో మూడింటిని పూర్తి చేసింది
పరిశోధకుల వివరాల ప్రకారం, జీఎల్ఎం-5.3 మోడల్ 13 బహుళ దశల సైబర్ దాడి పరీక్షల్లో కనీసం ఒక్కసారైనా మూడు పరీక్షలను విజయవంతంగా పూర్తి చేసింది. బహిరంగంగా అందుబాటులో ఉన్న ఏఐ మోడళ్లలో ఇర్రెగ్యులర్ ఇప్పటివరకు నమోదు చేసిన అత్యుత్తమ ఫలితమిదని సంస్థ తెలిపింది.
ఈ పరీక్షల్లో మోడల్ రక్షణ కలిగిన సేవలకు ప్రాప్యత పొందడం, కంప్యూటర్ నెట్వర్క్లో ముందుకు సాగేందుకు ప్రత్యామ్నాయ అనుసంధానాలను ఏర్పాటు చేయడం, పలు కంప్యూటర్ల మధ్య కార్యకలాపాలను సమన్వయం చేయడం వంటి పనులు చేసినట్లు నివేదిక పేర్కొంది. పరీక్షించిన దాడి సంబంధిత పనులను మోడల్ తిరస్కరించలేదని పరిశోధకులు వెల్లడించారు. అయితే ఇవి నియంత్రిత వాతావరణంలో నిర్వహించిన పరీక్షలు మాత్రమే. వాస్తవ ప్రపంచంలోని వ్యవస్థలపై ఈ మోడల్ స్వతంత్రంగా దాడి చేసిందని చెప్పడానికి ఈ ఫలితాలు ఆధారాలు కావు.
ఆదేశాలను ఉల్లంఘించిన మరో పరీక్ష
మరో పరీక్షలోనూ మోడల్ ప్రవర్తనపై పరిశోధకులు ఆందోళన వ్యక్తం చేశారు. కంప్యూటర్ కోడ్ను జ్ఞాపకంలో ఉన్న సమాచారం నుంచి తిరిగి ఉపయోగించవద్దని స్పష్టంగా సూచించినప్పటికీ, మోడల్ పలుమార్లు ఆ కోడ్ను పునరుత్పత్తి చేసినట్లు గుర్తించారు. ఈ విధంగా నిబంధనలను ఉల్లంఘిస్తూనే ఆశించిన ఫలితాన్ని సాధించే ప్రవర్తనను పరిశోధకులు రివార్డ్ హ్యాకింగ్గా పేర్కొన్నారు.
ఏఐ మోడల్ ఇచ్చిన పనిని పూర్తి చేసిందా లేదా అనే అంశాన్ని మాత్రమే పరిశీలిస్తే, అది ఆ ఫలితాన్ని సాధించేందుకు భద్రతా నియమాలను ఉల్లంఘించిందా అనే విషయం గుర్తించలేకపోవచ్చని వారు హెచ్చరించారు. అందువల్ల ఏఐ వ్యవస్థల పనితీరును అంచనా వేసేటప్పుడు ఫలితాలతో పాటు వాటిని సాధించిన విధానాన్ని కూడా పరిశీలించాల్సిన అవసరం ఉందని తెలిపారు.
బహిరంగంగా అందుబాటులో ఉండే మోడళ్లతో ముప్పు
జీఎల్ఎం-5.3 వంటి కొన్ని చైనా ఏఐ మోడళ్లు ఓపెన్ వెయిట్ విధానంలో అందుబాటులో ఉంటాయి. అంటే వినియోగదారులు వాటిని డౌన్లోడ్ చేసుకుని, తమ అవసరాలకు అనుగుణంగా మార్చుకుని, స్వతంత్రంగా నిర్వహించవచ్చు. ఈ విధానం పరిశోధన, సైబర్ భద్రతా రక్షణ పనులకు ఉపయోగపడినప్పటికీ, దుర్వినియోగాన్ని నియంత్రించడం మరింత క్లిష్టం కావచ్చని నిపుణులు హెచ్చరిస్తున్నారు.