ఎంతోప్రమాదకరమైన కార్యకలాపాలకు AI వినియోగం

ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ (ai) అనేది మానవత్వానికి తీవ్రమైన ప్రమాదాలను కలిగించే సాధనంగా మారుతోంది. ai సంస్థ అయిన anthropic నుండి వచ్చిన తాజా నివేదిక, అధునాతన ai

ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ (AI) అనేది మానవత్వానికి తీవ్రమైన ప్రమాదాలను కలిగించే సాధనంగా మారుతోంది. AI సంస్థ అయిన Anthropic నుండి వచ్చిన తాజా నివేదిక, అధునాతన AI మోడల్స్ ఇప్పటికే ఆయుధాల అభివృద్ధి, పర్యవేక్షణ, లక్ష్యంగా చేసుకోవడం మరియు ప్రమాదకరమైన జీవశాస్త్ర పరిశోధనలకు సంబంధించి ఎలా దుర్వినియోగం అవుతున్నాయో వివరించింది. ఈ నివేదిక, ప్రభుత్వాలు మరియు సాంకేతిక సంస్థలు అధిక శక్తివంతమైన AI వ్యవస్థలను ఎలా నియంత్రించాలో చర్చిస్తున్న సమయంలో వెలుగులోకి వచ్చింది. భవిష్యత్తులో AI మానవత్వానికి ప్రమాదం అవ్వవచ్చని చర్చలు జరుగుతున్నప్పటికీ, Anthropic నివేదిక ప్రస్తుతం ఉన్న ప్రమాదాలను సూచిస్తుంది. ఈ సంస్థ, తన AI వ్యవస్థలను దుర్వినియోగం చేయడానికి జరిగిన ప్రయత్నాలను ఎనిమిది నెలల పాటు పరిశీలించింది. ఈ నివేదికలో ప్రస్తావించిన ఐదు ప్రధాన ఉదాహరణలు ఇవి. Anthropic తెలిపినట్లుగా, ఇరాన్‌కు సంబంధించి జరిగిన ఒక కార్యకలాపం, US నావల్ బలాలకు సంబంధించిన సమాచారాన్ని సేకరించడానికి Claude AI మోడల్‌ను ఉపయోగించింది. ఈ వ్యవస్థ, నౌకలు, విమానాలు మరియు సైనిక సిబ్బందికి సంబంధించిన కదలికలపై వివరమైన సమాచారాన్ని సిద్ధం చేయడానికి ఉపయోగించబడింది. ఇది ఉపగ్రహ చిత్రాలు మరియు నావిక కార్యకలాపాలపై సమాచారం ప్రచురించే వెబ్‌సైట్ల నుండి సమాచారాన్ని సేకరించడంలో కూడా సహాయపడింది. Anthropic తెలిపినట్లుగా, ఇతర ఇరాన్‌కు సంబంధించి ఉన్న సమూహాలు కూడా ప్రచార, పర్యవేక్షణ మరియు రాజకీయ ప్రత్యర్థులు మరియు తక్కువ సంఖ్యలో ఉన్న సమూహాలను గుర్తించడానికి AIని ఉపయోగించాయి.

మరొక ఉదాహరణలో, ఉత్తర యెమెన్‌లోని ఒక ఆయుధాల సమూహం, రాకెట్ మరియు మిస్సైల్‌ల కోసం మార్గదర్శక సాఫ్ట్‌వేర్‌పై పనిచేస్తున్నప్పుడు Claude కోడ్‌ను ఉపయోగించింది. AI వివిధ ఇంజనీరింగ్ ప్రక్రియలలో ఉపయోగించబడింది. సాఫ్ట్‌వేర్ రాయడం, సాంకేతిక పరిశోధన చేయడం మరియు పని సమీక్షించడం వంటి వేర్వేరు AI సెషన్లు ఉపయోగించబడ్డాయి. ఒక మార్గదర్శక రాకెట్ పరీక్ష విఫలమైనట్లు కనిపించిన తర్వాత, ఆ సమూహం సమస్యను పరిశీలించడానికి Claudeను తిరిగి ఉపయోగించింది. Anthropic, చైనాకు సంబంధించి జరిగిన ఒక కార్యకలాపాన్ని కూడా వివరించింది, ఇది సిరియాలో ఉయ్గుర్లను గుర్తించడానికి AIని ఉపయోగించినట్లు ఆరోపించింది. ఈ కార్యకలాపం 100కు పైగా వాట్సాప్ గ్రూపులు మరియు కొన్ని టెలిగ్రామ్ చానళ్ల నుండి సమాచారాన్ని పరిశీలించింది. ఉయ్గుర్ సాయుధ సమూహాల గురించి సమాచారాన్ని అందించడానికి ఒత్తిడి లేదా చెల్లింపులు చేయవచ్చు అని భావించిన వ్యక్తులను కనుగొనడం లక్ష్యం. Claude, సిరియన్ అరబిక్‌లో కమ్యూనికేట్ చేయడంలో కూడా సహాయపడింది. AI సందేశాలను అనువదించడంలో మరియు ఆర్థిక కష్టాలు, కుటుంబ విరోధం మరియు చైనాలోని జిన్‌జియాంగ్ ప్రాంతంలో నివసిస్తున్న బంధువుల వంటి అంశాల ఆధారంగా వ్యక్తులను చేరుకోవడానికి సూచనలు ఇచ్చింది.

మాలీలోని ఒక కన్సల్టెంట్ Claudeని 25 మిలియన్ ఫోన్లను కవర్ చేసే పర్యవేక్షణ వ్యవస్థ యొక్క ఇంజనీరింగ్ పనిలో ప్రధాన భాగంగా ఉపయోగించినట్లు ఆరోపించారు. Anthropic ప్రకారం, ఈ వ్యవస్థ ఫోన్ రికార్డులు, టెక్స్ట్ సందేశాలు మరియు వాయిస్ కమ్యూనికేషన్లను సేకరించడానికి రూపొందించబడింది. ఇది SIM కార్డులను మార్చినప్పుడు కూడా వ్యక్తిని వారి స్వరం ద్వారా గుర్తించగలదు. ఈ వ్యవస్థ, VPN వినియోగదారులను గుర్తించడానికి మరియు ఫోన్ నంబర్లకు సంబంధించిన వివరమైన సమాచార ప్రొఫైల్స్‌ను సృష్టించడానికి కూడా రూపొందించబడింది. Anthropic, ఈ సామర్థ్యాలు సరైన చట్టపరమైన పర్యవేక్షణ లేకుండా విస్తృత పర్యవేక్షణను సాధించగలవని తీవ్ర ఆందోళనలను వ్యక్తం చేసింది. నివేదిక మరో సమస్యను కూడా హైలైట్ చేసింది. AI భద్రతా పరిమితులను వినియోగదారులు వేర్వేరు మోడళ్ల మధ్య కదులుతున్నప్పుడు దాటించవచ్చని తెలుస్తోంది. Anthropic, రాష్ట్ర మద్దతు పొందిన కార్యక్రమం కింద పనిచేస్తున్న పరిశోధకులు చికంగున్యా, ఒక మస్కిటో ద్వారా వ్యాప్తి చెందే వైరస్‌ను మార్చడంలో సహాయం కోరినట్లు తెలిపింది. ఈ పరిశోధన, వైరస్‌ను మరింత ప్రభావవంతంగా వ్యాప్తి చేయడానికి లేదా ఇమ్యూన్ డిఫెన్స్లను తప్పించడానికి ప్రయత్నాలను కలిగి ఉంది. Claude, ఈ పనిలో అత్యంత సున్నితమైన భాగాలను అందించడానికి నిరాకరించింది. అయితే, Anthropic ప్రకారం, పరిశోధకులు తర్వాత మరొక AI వ్యవస్థకు turned to, ఇది బలహీనమైన భద్రతా చర్యలు కలిగి ఉంది. ఈ కేసు, వినియోగదారులు కేవలం మరో మోడల్‌కు మారగలిగితే, ఒకే AI కంపెనీ ద్వారా విధించబడిన పరిమితులు ప్రమాదకరమైన పరిశోధనను నివారించడానికి సరిపోదని చూపిస్తుంది. Anthropic యొక్క findings, ఆ చర్చకు మరో కోణాన్ని జోడిస్తుంది. AI భవిష్యత్తులో ఏమి సాధించగలదనే విషయంపై మాత్రమే ఆందోళన ఉండటం లేదు. ఈ నివేదిక, శక్తివంతమైన AI వ్యవస్థలు ఇప్పటికే ప్రమాదకరమైన కార్యకలాపాలను నిర్వహించడానికి అవసరమైన పరిమాణం మరియు వేగాన్ని మార్చుతున్నాయని సూచిస్తుంది.