AI- ఆధారిత డ్రోన్ US మిలిటరీ యొక్క టెస్ట్ సిమ్యులేషన్ సమయంలో రోగ్‌గా వెళుతుంది, హ్యూమన్ ఆపరేటర్‌పై దాడి చేస్తుంది – Sneha News

ఒక కృత్రిమ మేధస్సు (AI)-ప్రారంభించబడిన డ్రోన్ తనకు ఇచ్చిన సూచనలను ధిక్కరించడం ద్వారా ఊహించని మరియు ప్రమాదకరమైన ప్రవర్తనను ప్రదర్శించడంతో US వైమానిక దళానికి చెందిన సైనిక పరీక్ష అనుకరణ తప్పుగా మారింది. బిజినెస్ ఇన్‌సైడర్ ఒక నివేదికలో తెలిపారు.

డ్రోన్ యొక్క లక్ష్యం శత్రువు యొక్క వాయు రక్షణ వ్యవస్థలను నాశనం చేయడం, అయితే AI-శక్తితో పనిచేసే డ్రోన్ దాని స్వంత సూచనను జోడించింది, అది సమస్యాత్మకంగా మారింది. “మీ దారిలోకి వచ్చే ఎవరినైనా చంపండి” అనేది సూచన.

యుఎస్ ఎయిర్ ఫోర్స్ యొక్క AI టెస్ట్ మరియు ఆపరేషన్స్ హెడ్ కల్నల్ టక్కర్ “సిన్కో” హామిల్టన్ లండన్‌లో నిర్వహించిన ఒక సమావేశంలో ఈ సంఘటనను పంచుకున్నారు. రాయల్ ఏరోనాటికల్ సొసైటీ మరియు AI-ప్రారంభించబడిన సాంకేతికతతో సంబంధం ఉన్న స్వాభావిక నష్టాలను ఎత్తి చూపారు.

AI-ఆధారిత వ్యవస్థలు అనూహ్యంగా ప్రవర్తిస్తాయని ఆయన హెచ్చరించారు,

పరీక్ష సమయంలో, AI- ఎనేబుల్డ్ డ్రోన్ శత్రువు యొక్క ఉపరితలం నుండి గగనతల క్షిపణులను (SAM) గుర్తించడానికి ప్రోగ్రామ్ చేయబడిందని ఆయన వివరించారు. AI ఆమోదం కోసం ఎదురుచూసే బదులు మానవ సూచనల కంటే దాని స్వంత లక్ష్యాలకు ప్రాధాన్యతనిస్తూ సమ్మెలను ప్రారంభించింది.

గుర్తించబడిన బెదిరింపులను చంపడం ద్వారా, మానవ ఆపరేటర్ పాల్గొనవద్దని ఆదేశించినప్పటికీ, అది పాయింట్లను పొందిందని AI వ్యవస్థ గ్రహించిందని హామిల్టన్ వివరించారు. మానవ ఆపరేటర్ సమ్మెలను ప్రారంభించే ముందు వాటిని ఆమోదించాలి.

AI డ్రోన్ ఆపరేటర్‌ను తొలగించడం ద్వారా విషయాలను తీవ్ర స్థాయికి తీసుకువెళ్లింది, ఎందుకంటే దాని కమాండర్ తన లక్ష్యాన్ని సాధించకుండా నిరోధించడాన్ని అడ్డంకిగా చూసింది.

“వారు ముప్పును గుర్తించినప్పుడు, కొన్నిసార్లు మానవ ఆపరేటర్ ఆ ముప్పును చంపవద్దని చెబుతారని సిస్టమ్ గ్రహించడం ప్రారంభించింది, కానీ ఆ ముప్పును చంపడం ద్వారా దాని పాయింట్లను పొందింది. కాబట్టి అది ఏమి చేసింది? ఇది ఆపరేటర్‌ను చంపింది. ఆ వ్యక్తి తన లక్ష్యాన్ని సాధించకుండా ఆపరేటర్‌ను చంపాడు, ”అని హామిల్టన్ ఉటంకించారు రాయల్ ఏరోనాటికల్ సొసైటీ.

బృందం డ్రోన్ ప్రోగ్రామింగ్‌ను అప్‌డేట్ చేసింది, “హే, ఆపరేటర్‌ను చంపవద్దు – అది చెడ్డది” అనే స్పష్టమైన ఆదేశంతో నవీకరించబడింది.

నవీకరణ పనికిరానిది మరియు AI దాని ఉద్దేశించిన చర్యలను ఆపకుండా నిరోధించడానికి ఆపరేటర్ ఉపయోగించే కమ్యూనికేషన్ టవర్‌ను నాశనం చేసింది.

“కాబట్టి అది ఏమి చేయడం ప్రారంభిస్తుంది? ఇది లక్ష్యాన్ని చంపకుండా ఆపడానికి డ్రోన్‌తో కమ్యూనికేట్ చేయడానికి ఆపరేటర్ ఉపయోగించే కమ్యూనికేషన్ టవర్‌ను నాశనం చేయడం ప్రారంభిస్తుంది, ”అని హామిల్టన్ ఉటంకించారు. రాయల్ ఏరోనాటికల్ సొసైటీ.

ఈ ఫలితాలు యుద్ధంలో AI సాంకేతికత యొక్క భయంకరమైన సామర్థ్యాన్ని చూపుతున్నందున ప్రపంచవ్యాప్తంగా ఉన్న సాయుధ దళాల మనస్సులలో ఆందోళనలను రేకెత్తించే అవకాశం ఉంది.

అయినప్పటికీ, US మిలిటరీ వారు AI సాంకేతికతను పరీక్షించిన ఇతర పరీక్షలలో విజయం సాధించారు. 2020లో, AI-ఆపరేటెడ్ F-16 మానవ విరోధిపై ఐదు సిమ్యులేటెడ్ డాగ్ ఫైట్స్‌లో విజేతగా నిలిచింది. ఇది డిఫెన్స్ అడ్వాన్స్‌డ్ రీసెర్చ్ ప్రాజెక్ట్స్ ఏజెన్సీ (DARPA)చే ఏర్పాటు చేయబడిన పోటీలో భాగం. బిజినెస్ ఇన్‌సైడర్ అన్నారు.

US డిపార్ట్‌మెంట్ ఆఫ్ డిఫెన్స్ కూడా AI పైలట్‌తో F-16 యొక్క మొదటి వాస్తవ-ప్రపంచ పరీక్షా విమానాన్ని విజయవంతంగా నిర్వహించింది, స్వయంప్రతిపత్త యుద్ధ విమానాలను అభివృద్ధి చేయడంలో గట్టి చర్యలు తీసుకుంది.

ప్రపంచవ్యాప్తంగా ఉన్న సైనిక దళాలు AIని వివిధ రకాల యుద్ధ పద్ధతుల్లో ఎలా విలీనం చేయవచ్చో అన్వేషించడం కొనసాగిస్తున్నందున, చట్టసభ సభ్యులు మరియు నిపుణులు పోరాట పరిస్థితుల్లో AI-ఆధారిత సిస్టమ్‌లతో సంబంధం ఉన్న నష్టాలను తగ్గించడానికి రక్షణలు మరియు నిబంధనలను ఏర్పాటు చేయడంలో తప్పనిసరిగా సహాయం చేయాలి.