Robots at War The U.S. military’s successful deployment of drones in combat provides a glimpse into the future of warfare. Without putting any U.S. pilots in danger, drones can deliver precisely targeted, highly lethal strikes on enemy personnel.
A drone is an example of a semi-autonomous weapon system; the command to fire the drone’s weapons is made by a human on a military base in the U.S. The U.S. also uses semi-autonomous weapons to launch Patriot missiles in its air defense systems that guard the coasts against enemy missiles and airplanes, and on board Navy ships.
Another example of a semi-autonomous weapon system already in use is the Samsung SGR-A1 Sentry robot that South Korea uses to guard its border with North Korea. It is equipped with heat and motion sensors to detect activity up to two miles away. According to the U.K.’s Daily Mail, each Sentry can fire a 5.5mm machine gun and a 40mm grenade launcher. When it identifies a potential attacker, it alerts the command center, where a human operator can use its audio function to issue a warning or give the command to fire its weapons.1
These weapons are just the first generation of a new arsenal of powerful machines that will at first work side by side with soldiers, and eventually replace them. Many of the projects remain classified, but the U.S. military and defense contractors?as well as the governments of U.S. allies and potential enemies?have revealed prototypes of several robots that can be used for surveillance, support, search and rescue, bomb detonation, and combat.
While some of these new weapons are semi- autonomous, others are fully autonomous?meaning they can respond to a threat without waiting for a human to make a decision. The Department of Defense defines an autonomous weapon system as “…a weapon system that once activated, can select and engage targets without further intervention by a human operator.”
While the U.S. is the undisputed leader in military robotics technology, Russia and China are now in the race. Let’s take a look at the next generation of military robots and tactics:2, 3
- On land, the U.S. Defense Advanced Research Project Agency (DARPA) has revealed two applications for using autonomous weapons in urban combat environments. As explained by Stuart Russell, Professor of Computer Science and Engineering at the University of California, Berkeley, “The Fast Lightweight Autonomy program will see tiny rotorcraft maneuver unaided at high speed in urban areas and inside buildings. The Collaborative Operations in Denied Environment program plans to create teams of autonomous aerial vehicles that could carry out every step of a strike mission in situations where enemy jamming makes communication with a human commander impossible.”
- In the sky, DARPA is also testing the concept of a drone aircraft carrier that would be based in the air rather than on water. Like a mothership, it would launch smaller drones for surveillance and aerial attacks.
- On the sea, the U.S. Navy is developing drone speedboats that could follow an enemy ship and then attack it either autonomously or by following remote-controlled instructions.
- DARPA has also been developing advanced humanoid robots. According to the U.K.’s Daily Mirror, “One such robot is Atlas, a 6’2” machine that walks on two legs and is designed?at least for the time being?for disaster relief. It’s not hard to imagine swapping out Atlas’s arms for guns and turning him into a terrifying foot soldier.”
- In the private sector, Google subsidiary Boston Dynamics has invented the RHex, a compact remote-controlled six-legged robot that can climb stairs or traverse swamps. It is equipped with night vision for surveillance missions. Boston Dynamics also developed BigDog, a robot that resembles a dog or mule that can haul equipment. According to TheVerge.com, Big Dog can race across a battlefield on four legs at four miles per hour, climb over rocks, and pick up and throw cinderblocks.
- QinetiQ has developed the Modular Advanced Armed Robotic System (MAARS). MAARS looks like a small tank. According to Wired.com, it can be equipped with night vision, motion sensors, a machine gun, and four grenade launchers.4
- iRobot, creator of the Roomba floor-vacuuming robot, is also turning its attention to military robots. The company’s site explains that, “More than 5,000 of the company’s defense & security robots have been delivered to researchers, military and civil defense forces worldwide, performing thousands of dangerous search, reconnaissance and bomb-disposal missions while protecting those in harm’s way.” For example, the 710 Kobra detonates bombs while the human operator maintains a safe distance, directing the robot with a touchscreen app.5
- Israel Aerospace Industries has introduced RoBattle, an unmanned robotic military vehicle that can work autonomously or by remote control. According to the company, “The system is designed to be integrated with tactical forces in mobile, dismounted operations and support a wide range of missions including intelligence, surveillance, and armed reconnaissance, as well as convoy protection, decoy, ambush, and attack.”6
- Russia has announced that its Foundation for Advanced Studies?Russia’s version of DARPA?is working on “Iron Man” or “Ivan the Terminator,” a humanoid robot soldier. According to Russian newspaper Pravda, “The development of a special military robot is one of the priorities of military construction in Russia.” Vice.com reports that the Foundation is also working on aerial drones as well as tank drones. It also has a remote-controlled robot called the Uran-6 that is used to detonate land mines, and the Uran 9, which can fire 400 bullets per minute.7
- China recently introduced its own military robot, AnBot, at the Twelfth Chongqing Hi-Tech Fair. The AnBot is nearly five feet tall, weighs 171 pounds, and can move at eleven miles per hour. Developed by China’s National Defense University, the AnBot is designed to quell rioters and protestors by zapping them with electric shocks. China’s other robots include an “attack robot” that can fire rifles and launch grenades.8
While the technology for military robots is advancing rapidly and they provide a way for the military to offset the declining demographics of OECD countries, obstacles to their deployment still exist. U.S. government policy currently allows only the development of non-lethal autonomous systems. Lethal autonomous systems are officially forbidden until 2022; any weapons system in use before then must include a human operator “in the loop” before deadly force can be used against humans. However, autonomous systems can be used to destroy unmanned targets, such as drones or missiles launched against military bases, planes, or ships.
But even if the U.S. reversed its policy, international policies prohibit the use of lethal autonomous weapons, and the resistance to their use is growing. For example, according to the Hague Convention, any combatant must be “commanded by a person.”
The Secretary General of the United Nations, Ban Ki-moon, has called on international experts to create a policy regarding the use of autonomous weapons systems proactively.
A coalition of human rights organizations has started a “Campaign to Stop Killer Robots.” It includes nearly three hundred scientists from thirty-seven countries who have demanded a ban on the invention and use of fully autonomous weapons.
In 2015, more than 3,000 experts in artificial intelligence and robotics research signed an open letter calling for a treaty to ban lethal autonomous weapons. Another 17,000 experts from other fields, including Stephen Hawking, Elon Musk, and Steve Wozniak, also signed the letter.
Several countries have vowed to keep humans in control of their military weapons. For example, Britain’s Parliamentary Under Secretary of State at the Ministry of Defense has declared, “let us be absolutely clear that the operation of weapons systems will always be under human control.” Germany has said it “will not accept that the decision over life and death is taken solely by an autonomous system.”
There are at least two reasons why people fear autonomous weapons systems. One reason is that such systems lack human reasoning and empathy. If one of South Korea’s SGR-A1 Sentry robots automatically opens fire on any intruders it detects crossing the demilitarized zone from North Korea, it could potentially kill a family of refugees seeking freedom, or an enemy soldier attempting to defect to the West.
The other reason that autonomous military robots inspire fear is the possibility that humans will lose control of them.
Russell, the Berkeley professor mentioned earlier, recently asserted in a World Economic Forum Agenda article that “Autonomous weapons in conflict with other autonomous weapons must adapt their behavior quickly, or else their predictability leads to defeat. This adaptability is necessary but makes autonomous weapons intrinsically unpredictable and hence difficult to control.” He concludes, “At present, the public has little understanding of the state of technology and the near-term possibilities, but this will change once video footage of robots killing unarmed civilians starts to emerge. At that point, the dictates of public conscience will be very clear but it may be too late to follow them.”9
Using autonomous and semi-autonomous systems also threatens to eliminate the valuable experiences that turn junior officers into future leaders. The need to make split-second battlefield decisions today is essential to the development of tomorrow’s generals. But if machines make those decisions, the U.S. could face a leadership vacuum.
Currently, no countries have used fully autonomous lethal robots. But what lies ahead? Please consider the following forecasts:
First, by 2025, the U.S. will have developed all of the necessary technology to deploy fully autonomous lethal robots.
That prediction comes from Major Daniel Sukman, a U.S. Army Strategist who has served three combat tours in Iraq. He asserts that military robots will transform the way that America fights its wars, and that the impact of autonomous weapons systems will be as important as gunpowder, mass conscription, and nuclear bombs. There is no limit to the number of robot soldiers that can be deployed. However, international policy will constrain their use. In the Canadian Military Journal, Sukman explains that “International policy trends indicate that nations may prohibit the use of autonomous lethal weapons systems and robotics on the battlefield in the future.”10 The U.S. may choose not to sign an agreement to ban such weapons, just as it has refused to sign an international ban on landmines in order to allow the DMZ to be mined between North and South Korea, because hostile governments and terrorist groups will not adhere to any such agreements. The fact that Russia and China are pursuing their own military robotics programs means that the U.S. will need to continue to invest in autonomous weapons systems in order to maintain its military superiority.
Second, military robots will enable the U.S. to lower the financial and human costs of warfare.
As much as 25 percent of U.S. troops could be replaced by robots and remote-controlled military vehicles. According to Popular Science, General Robert Cone told an Army Aviation symposium that the Army is evaluating whether to use drones and bots to reduce its Brigade Combat Teams from 4,000 soldiers to 3,000.11 That would enable the Army to reduce its casualties, and to cut by one-fourth its costs for recruiting, training, and feeding soldiers, as well as medical costs both during their active duty and afterwards.
Third, whether they are remotely controlled or fully autonomous, robot soldiers will not be limited by human emotions like empathy.
The risk is that dictators could use them against civilian populations in other countries, or even in their own homeland. For example, Russia could sell robots to Syrian President Bashar al-Assad, who would not need to coerce Syria’s human soldiers into killing civilians who oppose his reign. According to artificial intelligence expert Peter Asaro, a spokesman for the Campaign to Stop Killer Robots, “They are going to go to tyrannical dictators who often have trouble convincing their militaries to attack their own people, which we saw in Egypt. The military refused to attack people in Tahrir Square.” Humanoid robots could simply be programmed to slaughter any humans they encounter within a certain timeframe or geographic range.12
Fourth, military robots will increasingly replace police officers, DEA agents, and firefighters in dangerous situations.
In July 2016, the Dallas Police deployed an Andros F5 military robot made by Northrop Grumman’s subsidiary Remotec to kill a gunman who had shot several police officers. According to the department’s official statement, the F5’s arm clutched a pound of the explosive C4 when it approached the suspect, and officers used a detonation cord to trigger the fatal blast. A report on the tech site Gizmodo cited experts who said it was “the first lethal use by a civilian police force of a military bomb robot.”13 Another Gizmodo report notes that the F5 is an earlier model of the current Andros 56B bomb-disposal robot, which can carry up to sixty pounds.14 Clearly, a robot equipped with sixty pounds of C4 could create extensive damage and countless casualties?which means it will be vital to prevent their sale to terrorists.
Fifth, it will remain unclear for some time which firms will emerge as major players in the military robotics field.
For a while it looked like Google would take the prize. But, its acquisition of Boston Dynamics for $500 million as well as several other robotics companies in recent years has had mixed results. The company established itself as an important defense contractor through the BigDog and RHex programs. Google seemed poised to create synergies since it’s already the leader in autonomous vehicle technology for civilian uses. Unfortunately, it has been unable to integrate the culture of Boston Dynamics with the rest of its business and now plans to sell it. However, it is still reasonable to assume that it could apply what it has learned about designing driverless automobiles to create autonomous tanks and other weapons systems.
Sixth, military robotics research will enable big leaps in the performance of civilian robotics.
Just as the Internet, jet aircraft, helicopters, integrated circuits and satellites were all originally developed for defense, today’s military robots will underwrite the R&D required to create a transformational wave of cost-effective civilian service robotics. Today’s cyber-warrior may give birth to the eldercare robot of 2025.
References
1. Daily Mail, September 15 2014, “Who Goes There? Samsung Unveils Robot Sentry that Can Kill from Two Miles Away,” by Mark Prigg. ⓒ 2014 Associated Newspapers Ltd, Part of the Daily Mail, The Mail on Sunday & Metro Media Group. All rights reserved. http://www.dailymail.co.uk/sciencetech/article-2756847/Who-goes-Samsung-reveals-robot-sentry-set-eye-North-Korea.html2. World Economic Forum Agenda, January 17, 2016, “Robots in War: The Next Weapons of Mass Destruction?” by Stuart Russell. ⓒ 2016 World Economic Forum. All rights reserved. https://www.weforum.org/agenda/2016/01/robots-in-war-the-next-weapons-of-mass-destruction/3. Daily Mirror, January 27, 2015, “The Robot Army of the Future?from Killer Drones to Cyborg Super Soldiers,” by Olivia Solon. ⓒ 2015 MGN Limited http://www.mirror.co.uk/news/technology-science/technology/robot-army-future---killer-50533444. Wired, January 4, 2010, “10 Sci-Fi Weapons that Actually Exist,” by Aaron Rowe. ⓒ 2010 Conde Nast. All rights reserved. https://www.wired.com/2010/01/sci-fi-weapons/2/5. Daily Mirror, January 27, 2015, “The Robot Army of the Future?from Killer Drones to Cyborg Super Soldiers,” by Olivia Solon. ⓒ 2015 MGN Limited http://www.mirror.co.uk/news/technology-science/technology/robot-army-future---killer-50533446. Digitala Trends, June 13, 2016, “Israel’s New ‘RoBattle’ Bot Is Built with Swappable Modules that Change Its Abilities,” by Dyllan Furness. ⓒ 2016 Designtechnica Corporation. All rights reserved. http://www.digitaltrends.com/cool-tech/robattle-iai-military/7. Fox News, June 2, 2016, “Why You Should Fear Russia’s Robot Army,” by Jennings Brown. ⓒ 2016 Fox News Network LLC. All rights reserved. http://nation.foxnews.com/2016/06/02/why-you-should-fear-russias-robot-army8. TechSpot, April 29, 2016, “China’s New Robot Soldier Can Zap Rioters with Electricity,” by Rob Thubron. ⓒ 2016 TechSpot Inc. All rights reserved. http://www.techspot.com/news/64635-china-new-robot-soldier-can-zap-rioters-electricity.html9. World Economic Forum Agenda, January 17, 2016, “Robots in War: The Next Weapons of Mass Destruction?” by Stuart Russell. ⓒ 2016 World Economic Forum. All rights reserved. https://www.weforum.org/agenda/2016/01/robots-in-war-the-next-weapons-of-mass-destruction/10. Canadian Military Journal, Winter 2015, Vol. 16, No.1, “Lethal Autonomous Systems and the Future of Warfare,” by Daniel Sukman. ⓒ 2015 National Defence and the Canadian Armed Forces. All rights reserved. http://www.journal.forces.gc.ca/vol16/no1/page44-eng.asp11. Popular Science, January 22, 2014, “Robots May Replace One-Fourth of U.S. Combat Soldiers by 2030, Says General,” by Kelsey D. Atherton. ⓒ 2014 Popular Science, a Bonnier Corporation Company. All rights reserved. http://www.popsci.com/article/technology/robots-may-replace-one-fourth-us-combat-soldiers-2030-says-general12. Vice News, May 26, 2016, “Ivan the Terminator: Russia Is Showing Off Its New Robot Soldier,” by John Dyer. ⓒ 2016 Vice News. All rights reserved. https://news.vice.com/article/ivan-the-terminator-russia-is-showing-off-its-new-robot-soldier13. Gizmodo, July 10, 2016, “Dallas Police Reveal Robot Used to Kill Suspect in Cop Shooting,” by Darren Orf. ⓒ 2016 Gizmodo Media Group. All rights reserved. http://gizmodo.com/dallas-police-reveal-robot-used-to-kill-suspect-in-cop-178341333114. Gizmodo, July 8, 2016, “What We Know About the Bomb Robot Used to Kill the Suspected Dallas Shooter [Update],” by Darren Orf. ⓒ 2016 Gizmodo Media Group. All rights reserved. http://gizmodo.com/what-we-know-about-the-bomb-robot-used-to-kill-the-susp-1783350007
America로봇 전쟁의 서막 Robots at War
제2차 세계대전 이후, 각 국가들의 군비 지출은 최첨단 소재, 우주항공, 정보 통신과 같은 첨단 기술의 개발로 이어져왔다. 이제 군사용 로봇에 대한 수십 년 간의 연구 끝에 인간이 아닌 로봇들이 전투와 전쟁을 수행하는 시기가 도래하고 있다. 군사용 로봇은 무엇을 할 수 있고, 이로 인한 기회와 위기는 무엇일까? 경제와 세계에 끼치는 영향은 무엇일까?
미군이 드론을 전투 상황에 성공적으로 배치한 것은 전쟁의 미래를 명확하게 보여준다. 조종사를 위험에 빠뜨리지 않고 드론은 명확한 목표로 설정된 적에게 정확하게 치명타를 입힐 수 있다.
드론은 반자동 무기 시스템의 사례다. 드론에게 무기를 발사시키는 명령은 군사 기지에 있는 인간에 의해 내려지기 때문이다. 미국은 또한 패트리어트 미사일을 발사하는 데도 이러한 반자동 무기 시스템을 사용한다. 패트리어트 미사일은 미국의 해안, 항공기, 해군 전투함 등을 적 미사일로부터 방어하는 목적으로 운용되고 있다.
이미 운용 중인 반자동 무기 시스템의 또 다른 사례는 한국이 휴전선을 경계하기 위해 사용하는 삼성 SGR-A1 센트리(Samsung SGR-A1 Sentry) 로봇이다. 이 로봇에는 열과 모션 센서가 장착되어 최대 2마일 떨어진 곳까지 적 활동을 감지한다. 영국의 「Daily Mail 데일리 메일」에 따르면 각 센트리는 5.5mm 기관총과 40mm 유탄 발사기를 발사할 수 있다. 잠재적 공격자를 식별하면 명령 센터에 알리고, 지휘관이 오디오 기능을 사용해 경고를 하거나 무기를 발사하는 명령을 내릴 수 있다.
이러한 반자동 무기들은 군인과 함께 운용되는 최첨단의 강력한 기계들로 이루어진 최초의 세대일 뿐이다. 현재 수많은 프로젝트들이 진행 중이고 기밀로 유지되고 있다. 그러나 미군과 방위 산업체 - 미 동맹국들과 잠재적 적국의 정부들도 마찬가지겠지만 - 는 초계와 지원, 수색 및 구조, 폭탄 폭발, 전투를 위해 사용될 수 있는 여러 가지 형태의 로봇에 대한 프로토 타입을 공개하고 있다.
이 새로운 무기들 중 일부는 여전히 사람이 명령을 내리는 반자동 형태이지만 일부는 완전히 자율적으로 움직인다. 즉, 인간이 결정을 내릴 때까지 기다리지 않고 위협에 즉각적으로 스스로 판단하여 대응할 수 있다. 미 국방부는 자율 무기 시스템을 "한번 활성화되면, 인간의 조작이나 개입 없이 목표를 선택하고 실행하는 무기 시스템"이라고 정의 내린다.
미국은 군사용 로봇 기술 분야에서 확실한 선두 주자이다. 그러나 러시아와 중국 또한 현재 전쟁에 참여하고 있다. 그렇다면 차세대 군사 로봇 및 전술에는 무엇이 있는지 살펴보자.
- 미국방위고등연구계획국(Defence Advanced Research Projects Agency, DARPA)은 시가지 전투 환경에서 자동화 무기를 사용하기 위해 두 가지 응용 사례를 발표했다. 버클리에 위치한 캘리포니아 대학(the University of California)의 컴퓨터 과학 공학과 교수인 스튜어트 러셀(Stuart Russell)에 따르면 두 가지는 다음과 같다.
"패스트 라이트웨이트 오토노미(The Fast Lightweight Autonomy, 고속 경량 자율) 프로그램은 도심 지역과 건물 내부에서 빠른 속도로 스스로 움직이는 작은 회전날개 무인기(rotorcraft)의 작전 상황을 보여줄 것이다. 접근거부 환경 내 협동 작전(Collaborative Operations in Denied Environment, CODE) 프로그램은 자율 무인항공기 편대를 만드는 것으로, 적과 아군 항공기가 섞여있어 인간 명령권자와의 통신이 불가능할 때 항공기가 스스로 모든 공격 절차를 처리하는 것이다."
- 또한 DARPA는 해상보다는 공중에 기반하는 드론 캐리어 개념을 테스트 중에 있는데, 이것은 마치 모선(mothership)처럼, 감시와 공중 공격을 위해 작은 드론을 발사하고 회수하는 것이다.
- 미 해군은 드론 고속정을 개발하고 있다. 이 드론 고속정은 적 선박을 따라다니다 자동으로 혹은 원거리 통제 지시를 받고 대상을 공격하는 개념이다.
- DARPA는 첨단 휴머노이드 로봇도 개발해오고 있다. 영국의 「Daily Mirror 데일리 미러」에 따르면, 그 중 하나는 아틀라스(Atlas)로 두 다리로 걷고 - 적어도 당분간은 - 재난 구조용으로 설계된 189cm의 장신 로봇이다. 그러나 아틀라스의 팔을 총으로 바꿔 그를 무서운 이족 보행 군인으로 바꾸는 일은 어렵지 않다.
- 민간 부문에서는 구글(Google)의 자회사 보스톤 다이나믹스(Boston Dynamics)가 있다. 이들은 원격 제어로 움직이는 6개의 다리를 가지고 계단을 오르거나 늪지를 가로 지르는 렉스(RHex)를 개발했다. 렉스에는 감시 임무를 수행하기 위한 야간 투시경도 장착되어 있다. 보스톤 다이나믹스 사는 장비를 운반 할 수 있는 개나 노새를 닮은 로봇 빅독(BigDog)도 개발했다. 버지닷컴(TheVerge.com)에 따르면, 빅독은 4개의 다리로 시간당 4마일의 속도로 전장을 가로지르며, 암벽을 오르고, 벽돌을 집어 던질 수 있다.
- 키네티크(QinetiQ)사는 고도의 모듈형 무장 로봇 시스템(MAARS, the Modular Advanced Armed Robotic System)을 개발했다. 마르스(MAARS)는 작은 탱크처럼 보인다. 와이어드닷컴에 따르면 야간 투시경, 모션 센서, 기관총, 4개의 유탄 발사기를 장착할 수 있다.
- 룸바(Roomba) 진공청소기 로봇의 제작사 아이로봇(iRobot)사도 군사용 로봇에 관심을 두고 있다. 이 회사의 사이트에는 "전 세계적으로 우리 회사의 5000여 보안 및 안전 로봇들이 연구원들과 군대, 수비대에 전달되어, 수천 건에 달하는 위험한 정찰과 수색, 폭탄 처리 임무를 수행함으로써 위험한 상황에 처할 수 있는 그들을 보호하고 있다"고 밝히고 있다. 예를 들어 710 코브라(Kobra)는 인간 조작자가 안전한 거리를 유지하면서 터치 스크린 앱으로 통제해 폭탄을 터트리게 하는 로봇이다.
- 국영기업 이스라엘 항공우주 산업(Israel Aerospace Industries)사는 자율적으로 움직이는 또는 원격 제어로 작동되는 무인 로봇 군사용 차량인 로배틀(RoBattle)을 실전에 도입했다. 회사는 "이 로봇 시스템은 기동 작전을 수행하는 전술 부대와 통합되어, 정보, 감시, 무장 정찰, 호송, 유인, 매복, 공격 등 다양한 임무를 지원하도록 설계되었다"고 설명하고 있다.
- 러시아는 첨단연구재단(FAS: Foundation for Advanced Studies, 미국 DARPA의 러시아 버전)이 인간형 로봇 병사인 아이언맨(Iron Man) 혹은 이반더터미네이터(Ivan the Terminator)를 연구하고 있다고 발표했다. 러시아의 중앙 기관지 「프라우다(Pravda)」는 특별한 군사 로봇의 개발이 현재 러시아 군부의 최우선순위라고 보도하고 있다. 종합 뉴스 미디어 회사인 바이스닷컴(Vice.com)은 러시아의 첨단연구재단이 공중 드론과 탱크 드론 또한 연구 중에 있다고 보도했는데 이외에도 지뢰를 폭파하는 데 사용되는 우란6(Uran-6), 분당 400발을 발사할 수 있는 우란9(Uran-9) 등의 원격 제어 로봇도 있다.
- 중국은 최근 제12회 충칭 하이테크 박람회(the Twelfth Chongqing Hi-Tech Fair)에 군사용 로봇 앤봇(AnBot)을 선보였다. 앤봇은 키가 약 5피트에 가깝고 무게는 171파운드이며 시간당 11마일의 이동이 가능하다. 중국 국방 대학교(National Defense University)에서 개발한 이 로봇은 전기 충격으로 폭도 세력과 시위자들을 제압할 수 있도록 설계되었다. 소총을 발사하고 수류탄을 던질 수 있는 공격형 로봇도 중국의 군사용 로봇에 포함되어 있다.
이렇듯 군사용 로봇에 대한 기술은 빠르게 발전하고 있으며, OECD 국가들의 인구 감소에 따른 인간 병사의 빈자리를 이 군사용 로봇들이 상쇄할 수 있는 방법을 제공하고 있다. 그러나 군사용 로봇의 배치에 대한 장애물 또한 여전히 존재하고 있다. 현재 미국은 치명적인 자율 시스템을 2022년까지 공식적으로 금지하고, 치명적이지 않은 자율 시스템의 개발만 허용하는 정책을 유지하고 있다. 즉, 살상 무기가 인간에게 사용되기 전에 어떤 무기 시스템이든 인간의 통제 영역이 선행되어야 한다는 것이다. 그러나 자율 시스템을 사용하여 무인 목표물을 파괴할 수 있다. 무인 목표물로는 드론, 그리고 군사 기지와 항공기, 선박을 향해 발사된 미사일 등이 있다.
그러나 미국의 정책이 바뀌더라도, 국제 정책이 또한 치명적인 자율 무기의 사용을 금지하고 있고, 이러한 무기 체제의 활용에 대한 저항도 커지고 있다. 헤이그 협약에 따르면 모든 전투원(로봇을 포함한)은 "인간의 명령을 받아야 한다."
반기문 전 유엔 사무총장은 국제 전문가들에게 자율 무기 체계의 사용에 대한 정책을 적극적으로 개발할 것을 촉구했다.
한 인권 단체 연합은 "킬러로봇중단캠페인(Campaign to Stop Killer Robots)" 활동을 시작했다. 이 기구에는 완전 자동화 무기에 대한 개발 및 사용 금지를 요구하는 37개국의 약 300명의 과학자들이 포함되어 있다.
2015년에는 인공 지능 및 로봇 연구 분야의 약 3,000명의 전문가들이 치명적인 자율 무기를 금지하라는 공개 서한에 서명했다. 스티븐 호킹(Stephen Hawking), 엘론 머스크(Elon Musk), 스티브 워즈니악(Steve Wozniak) 등 각기 다른 분야 전문가 17,000명도 서한에 서명을 했다.
일부 국가들은 그들의 군사용 무기에 대한 통제권을 계속 인간이 가질 것이라고 선언했다. 영국의 국방부 정무 차관은 "무기 체계의 운용을 항상 인간의 통제권에 둘 것이란 점을 분명히 하자"고 선언했으며, 독일은 "자율 무기 체계가 단독으로 인간의 생사를 가르는 결정을 내리는 것을 받아들일 수 없다"고 밝혔다.
사람들이 자율 무기 체계를 두려워하는 이유는 적어도 두 가지에 있다. 하나는 그 시스템에는 인간의 이성과 합리성, 공감이 결여되어 있기 때문이다. 한국의 SGR-A1 센트리 로봇은 무장 침투 군인과 탈북자를 구분하지 못한다. 비무장 지대를 가로지르는 누군가에게 자동으로 화기가 발사되면 자유를 찾아 목숨을 걸고 탈출하는 난민과 그 가족이 비참한 희생자가 될 수도 있고, 혹 무장한 채 자유를 찾아 남하하는 북한 군인도 예외가 아니다.
자율 군사용 로봇이 두려움을 일으키는 또 다른 이유는 인간이 로봇에 대한 통제권을 잃을 수도 있다는 가능성 때문이다.
앞서 언급한 버클리 대학교 러셀 교수는 최근 세계 경제 포럼 의제에서 이렇게 말했다.
"다른 자율 무기와 충돌하는 자율 무기는 신속하게 (다른 자율 무기의) 행동에 대응해야 하며, 그러한 대응 능력, 즉 예측 능력이 승패를 가르게 될 것이다. 따라서 이러한 대응 능력은 반드시 필요한 것이지만, 역으로 보면 이 대응능력으로 인해 무기는 본질적으로 예측 불가능하게 되고, 통제에 어려움이 발생하게 된다."
러셀 교수는 다음과 같이 결론내린다.
"대중은 현재의 기술 상태와 가까운 기간 내에 발생할 가능성에 대해 거의 이해하지 못하고 있다. 그러나 로봇이 비무장 민간인을 살해하는 실제 영상물이 등장하기 시작하면 이러한 인식과 상황은 곧 바뀌게 될 것이다. 그 시점에서는 사회적 양심이 가리키는 지시는 분명해질 것이다. 그러나 그것을 따르기에는 너무 늦었을 수도 있다."
자율 및 반자동 시스템의 활용은 초급 장교를 미래의 지도자로 키울 수 있는 가치 있는 경험을 원천적으로 제거하는 일일 수 있다. 오늘 전투 현장에서 찰나의 순간에 의사결정을 내릴 수 있는 능력은 내일 장군이 되어야 할 사람들에게는 필수적이다. 그러나 기계가 이러한 의사결정을 내린다면, 어떤 국가든 리더십 공백의 위기와 직면할 수 있다.
완전히 자율적으로 움직이는 치명적 로봇을 사용하는 국가는 현재까지는 존재하지 않는다. 그러나 앞으로도 그러할까? 이러한 점을 고려했을 때, 우리는 다음과 같은 6가지를 예측할 수 있을 것이다.
첫째, 미국은 2025년까지 완전한 자율을 가진 치명적 로봇을 개발 배치하는 데 필요한 모든 기술을 개발할 것이다.
이 예측은 미 육군 군사 전략가 대니얼 수크만 (Daniel Sukman) 대령이 내렸다. 그는 이라크에서 세 차례의 전투 임무를 수행했다. 수크만 대령은 군사용 로봇이 미국이 전쟁을 수행하는 방식에 변화를 주고, 이러한 자율 무기 체계의 영향력이 각 시대마다 군사적 변화를 이끈 화약, 대량 징집, 핵폭탄만큼 중요할 것이라고 주장했다. 배치할 수 있는 로봇 병사의 수에는 어떤 제한도 없다. 그러나 국제적 논의는 로봇 병사의 사용을 제한할 것이다.
수크만 대령은 「캐나다 군사 저널(Canadian Military Journal)」에서 "국제적 논의의 흐름은 각 국가들이 자체적인 치명적 무기 체계와 로봇 기술을 향후 사용하는 것을 금지하는 쪽으로 움직이고 있다"고 설명했다. 단, 남한과 북한이 마주한 비무장지대(DMZ)에 지뢰를 개설할 수 있도록 미국이 국제 지뢰 금지 협정에 서명하지 않았던 것처럼, 로봇 사용을 금지하는 그러한 협약에도 서명하지 않을 수 있다. 적대 국가들과 테러 단체들은 어떤 협약도 지키지 않을 것이기 때문이다. 더군다나 러시아와 중국이 자체적안 군사 로봇 프로그램을 계속 추진하고 있다는 사실은 미국 또한 군사적 우월성을 유지하기 위해 자율 무기 체제에 계속 투자해야 할 필요가 있음을 의미한다.
둘째, 군사용 로봇이 전쟁에 대한 미국의 재정적/인적 비용을 낮춰줄 것이다.
미군의 25% 이상이 로봇과 원격 제어 군사 장비로 대체될 수 있다. 「대중 과학 Popular Science」지에 따르면, 한 육군 항공 심포지엄에서 로버트 콘(Robert Cone) 장군은 미군이 1개 여단 4,000명의 병사를 3,000명으로 줄이기 위해 드론과 로봇을 활용할지 여부를 평가하는 중이라고 말했다. 이것은 미군이 사상자를 줄일 수 있게 할뿐만 아니라, 현역 활동과 제대 후의 의료비용, 그리고 모병, 훈련, 식사 등에 드는 비용을 1/4 절감할 수 있다는 의미다.
셋째, 원격 조종이든 완전 자율이든 로봇 병사는 공감과 같은 인간의 감정에 - 앞으로도 - 어떤 제한도 받지 않을 것이다.
여기서 발생할 수 있는 위험은 독재자들이 다른 나라의 민간인들이나 심지어 자국민들에게도 로봇을 사용할 수 있다는 점이다. 예를 들어, 러시아는 바샤르 알 아사드 시리아 대통령에게 로봇을 팔 수 있다. 그는 시리아의 인간 군인에게 그의 통치에 반대하는 민간인을 학살하라고 강압할 필요가 없다. 킬러로봇중단캠페인 대변인이자 인공 지능 전문가인 피터 아사로(Peter Asaro)는 "로봇들은 우리가 이집트에서 목격했듯이 군대에게 자국민 공격 명령을 내리는 데 어려움이 있는 폭압적인 독재자들 손에 들어갈 것이다. 이집트 군대는 타흐리르 광장(Tahrir Square)에 있는 자국민들을 공격하라는 명령을 거부했다"고 말했다. 인간형 로봇은 특정 시간대 혹은 지리적 범위 내에서 만나는 모든 인간을 도살할 수 있도록 간단히 프로그래밍될 수 있다.
넷째, 군사용 로봇이 위험한 상황에 노출되는 경찰, DEA 요원 및 소방관을 점차적으로 대체할 것이다.
2016년 7월 달라스 경찰은 노스롭 그루먼(Northrop Grumman)의 자회사 리모텍(Remotec)이 만든 안드로스 F5(Andros F5) 군용 로봇을 배치해 경찰관들에게 총격을 가한 범인을 처치했다. 경찰 공식 발표에 따르면, F5가 용의자에게 접근할 때, 로봇의 팔에는 1파운드의 C4 폭탄이 장착되어 있었고, 경찰관들은 치명적인 폭발을 일으키기 위해 폭발 코드를 사용했다. 첨단기술 전문 사이트인 기즈모도(Gizmodo)는 이를 민간인 경찰이 치명적인 군사용 폭탄 로봇을 사용한 첫 사례라고 한 전문가의 말을 빌어 보도했다. F5는 최대 60파운드를 운반할 수 있는 현 안드로스 56B 폭탄 처리 로봇의 초기 모델이다. 60파운드의 C4가 장착된 로봇이 일으킬 수 있는 광범위한 피해와 수많은 사상자를 고려하면, 이 로봇이 테러범에게 판매되지 못하게 막는 일은 무척 중요하다.
다섯째, 어떤 기업이 군사용 로봇 분야의 선도주자로 부상할 것인지는 아직까지 확실하지 않을 것 같다.
한동안 구글이 이 분야의 선도주자가 될 것처럼 보였다. 그러나 5억 달러에 인수한 보스톤 다이내믹스(Boston Dynamics)를 포함하여 최근 수년내 이뤄진 여러 로봇 회사들의 인수가 여러 가지 뒤섞인 결과를 냈다. 구글은 빅독과 RHex 프로그램을 통해 중요 국방 기업으로 자리매김을 했다. 구글은 이미 민간용 자율 주행 차량 기술의 리더이기 이들 여러 기업들과 시너지 효과를 낼 것처럼 보였다. 불행하게도 보스턴 다이나믹스의 문화를 구글의 다른 비즈니스와 통합할 수 없었기 때문에 현재는 이 기업을 매각할 계획이다. 그러나 자율형 탱크와 기타 다른 무기 체계를 개발하는 데 무인 자동차를 설계하면서 취득한 것들을 적용할 수 있다고 판단하는 것이 합리적일 것이다.
여섯째, 군사용 로봇 연구는 민간 로봇의 성능을 크게 향상시킬 것이다.
인터넷, 제트 항공기, 헬리콥터, 집적 회로 및 인공위성 모두는 원래 군사용으로 개발된 것이다. 마찬가지로 오늘날 군사용 로봇은 비용 효율적인 민간용 서비스 로봇 공학의 혁신에 필요한 R&D 역할을 해줄 것이다. 오늘의 사이버 전사가 2025년의 노인 의료 로봇을 출산할 수 있다.
* * *
글로벌 트렌드 DB 서비스는 美 Trend Magazine社과 정식계약으로 제공되는 지식 정보 콘텐츠입니다.
글로벌 트렌드 DB 서비스는 전 세계 2만여 명의 각 산업별 전문가들이 혁신 기술, 문화, 경제, IT, 바이오, 나노테크, 인터넷 등 각 분야에서 세계 경제 지도를 바꾸는 트렌드를 선정하고, 지식과 정보, 오피니언을 하나의 콘텐츠로 묶어, 세계의 현재와 미래를 알고 분석, 예측할 수 있도록 안내하는 프리미엄 서비스입니다.
본 글로벌 트렌드 콘텐츠는 저작권법의 보호를 받는 콘텐츠입니다(이용문의 - 네오넷코리아, 02-539-3233).
