인공지능은 인류의 죽음이다. 인공지능 대 인간: 위협인가 도우미인가? 공상 과학 소설 또는 무서운 미래

그들은 적절한 수준에서 Dota 2 플레이 방법을 배우려면 약 10,000 시간의 훈련이 필요하다고 말합니다. 게임용 인공 지능에는 훨씬 더 많은 것이 필요했습니다. 하지만 수천년의 게임 시간 끝에 AI는 살아있는 플레이어를 물리칠 수 있었습니다.

인공지능이 체스와 바둑을 마스터했습니다( 이 분야의 성공에 대해 Sergei Markov의 비디오를 시청하십시오.). 그러나 Brockman은 두 게임 모두 도전적이지만 실제 생활에서 직면하는 도전과는 전혀 다르다고 지적합니다.

AI가 행동할 수 있도록 현실 세계, 대부분의 경우처럼 단계별로 작동하지 않고 실시간으로 작동해야 합니다. 보드 게임. 또한 불완전한 정보를 바탕으로 결정을 내릴 수 있어야 합니다. 두 가지 측면 모두 체스나 바둑보다 Dota 2에 더 잘 반영됩니다.

기본적으로 이는 Dota 2에서 승리할 수 있는 AI가 현실 세계의 문제 해결에도 더 뛰어나야 함을 의미합니다.

Brockman은 "우리는 AI가 지능적인 기술을 배울 수 있다는 것을 보여 주었으며 이를 위한 다른 응용 프로그램을 찾고 싶습니다."라고 말했습니다.

인공 지능(AI)은 오랫동안 대중 과학 잡지의 페이지에 등장해 왔으며 영화와 책에서도 끊임없이 다루어지는 주제입니다. 더 많은 전문가가 이 과학 분야를 개발할수록 더 많은 신화가 다루어지게 됩니다.

인공지능의 발전과 미래는 국가 수장들에게도 걱정거리이다. 얼마 전 블라디미르 푸틴 러시아 대통령은 회사 창립 20주년을 맞아 얀덱스 사무실을 방문해 AI가 언제 인간 지능을 뛰어넘을지 설명했다.

인공 지능의 잠재력의 본질을 조금이라도 이해하는 사람이라면 이 주제를 무시할 수 없다는 것을 이해합니다. 이는 논의를 위한 중요한 문제일 뿐만 아니라 아마도 미래의 맥락에서 가장 중요한 문제 중 하나일 것입니다.

무슨 일이야? 인공지능그리고 사람들이 정말 두려워하는 것이 무엇인지, “눈. TV" 기계 학습 방법 전문가 Sergey Markov.

1956년 '인공지능'이라는 용어를 창안한 존 매카시(John McCarthy)는 "일단 작동하면 누구도 더 이상 AI라고 부르지 않는다"고 말했습니다. AI는 이미 현실입니다. 계산기, Siri, 자율주행차 등이 있지만 그들은 여전히 ​​AI를 믿지 않습니다. 사람들은 왜 AI의 존재를 부정하는 걸까요?

주로 용어의 혼란으로 인해 "인공 지능"이라는 개념에 대해 사람들마다 완전히 다른 의미를 갖기 때문입니다.

과학에서 인공지능은 지적 문제의 해결을 자동화하도록 설계된 시스템입니다. 결과적으로, "지적 과제"는 사람들이 타고난 지능의 도움으로 해결하는 과제로 이해됩니다.

인공 지능에 대한 이러한 정의는 매우 광범위하다는 것을 쉽게 알 수 있습니다. 산술 문제도 본질적으로 지능적이기 때문에 사람은 자신의 지능을 사용하여 문제를 해결하기 때문에 일반 계산기도 이에 속합니다.

따라서 "인공 지능"이라는 개념 내에서 하나의 지적 문제 또는 그 중 작은 집합을 해결하도록 설계된 응용 또는 약한 인공 지능을 가상의 강력한 AI와 구별하는 중요한 경계가 그려졌습니다. 보편적인 인공지능(영어)이라고 부른다. .. - 인공일반지능(Artificial General Intelligence).

그러한 시스템이 만들어지면 인간 지능과 같은 지적 문제를 무제한적으로 해결할 수 있을 것입니다. 이런 관점에서 볼 때, 어디에 있는지 계산할 수 있는 계산기는 사람보다 빠르다, 체스에서 사람을 이기는 프로그램 등이 AI가 적용된 반면, 미래의 가상 초지능은 강인공지능(Strong AI)이다.

AI 분야의 다양한 발견과 발전에 대해 읽으면 모든 것이 주로 미국이나 아시아에서 일어난다는 것을 깨닫게 됩니다. 러시아 상황은 어떻습니까? 진전이 있나요?

요즘 컴퓨터 과학 분야는 국제적입니다. 많은 전문가들이 러시아 및 국제 팀의 일원으로 다양한 기계 학습 모델을 만들고 개선하기 위해 노력하고 있습니다. 우리는 전통적으로 강력한 수학 및 알고리즘 학교를 보유하고 있으며 주요 대학과 일부 민간 기업 모두에 세계적 수준의 연구 센터가 설립되었습니다.

하지만 솔직히 말해서 우리나라에서 과학과 교육을 위해 할당된 예산은 대부분의 과학 예산과 비교할 수 없습니다. 선진국. 2016년 러시아 예산 수입은 약 2,000억 달러에 달했으며, 미국은 러시아 전체 예산보다 국방비를 3배 더 많이 지출했습니다.

전체예산 러시아 과학아이비리그 대학의 예산과 맞먹는 수준입니다. 자금이 부족한 90년대에는 많은 주요 전문가들이 나라를 떠났고, 수많은 전문가들이 계속해서 과학 학교. 사내 전자제품 생산도 실질적으로 사라졌다.

세계의 IT 리더들이 신경망 훈련을 위한 특수 프로세서를 만들기 위해 경쟁하고 있는 동안 우리에게는 알고리즘과 기술의 개발만 남았습니다. 소프트웨어. 그러나 우리는 이 분야에서도 매우 인상적인 성공을 거두었습니다.

예를 들어, Artem Oganov가 이끄는 팀은 화합물의 결정 구조를 예측할 수 있는 USPEX 시스템을 만들었습니다. 진짜 혁명현대화학에서.

모스크바 주립 대학 컴퓨터 과학 및 컴퓨팅 단지의 Vladimir Makhnychev와 Viktor Zakharov 팀은 Lomonosov 및 IBM Blue Gene/P 슈퍼컴퓨터뿐만 아니라 자신이 만든 시스템을 사용하여 처음으로 7피스를 계산할 수 있었습니다. 체스 엔딩.

Yandex의 신경망은 음성을 인식 및 합성하고 민방위 및 작곡가 Scriabin 스타일의 음악을 생성합니다. Sberbank에는 AI 및 기계 학습 전문가로 구성된 강력한 팀도 구성되었습니다.

요컨대 우리나라에서는 눈에 띄는 성공이 있습니다.

인공지능 기술이 발전할수록 사람보다 강하다두려운 점은 그들이 일을 하지 않고 얼마나 빨리 방치될 것인가 하는 것입니다. 정말 그렇게 나쁜가요?

© 마르셀 Oosterwijk/flickr.com

예, 아니오. 인류는 이미 전체 생산 부문에 혁명을 일으킨 기술의 출현을 여러 번 경험했습니다.

이것은 산업 혁명 당시 증기 기관의 경우였으며, 이로 인해 많은 직업(주로 원시 직업과 관련된)이 실질적으로 파괴되었습니다. 육체 노동), 지속적인 수학적 계산을 기반으로 하는 작업에서 인간을 대체한 전자 컴퓨터의 경우가 그렇습니다.

15~18세기 영국에서 '양이 사람을 먹었'을 때 사회적 결과는 참으로 재앙적이었습니다. 잉글랜드는 패했다 다른 추정치, 인구의 7~30%입니다. 당시의 권력 엘리트들은 여분의 사람들을 어떻게 해야 할지 심각하게 고민했습니다. 조나단 스위프트(Jonathan Swift)는 가난한 사람들의 아이들을 먹을 것을 제안하는 유머러스한 팜플렛으로 이러한 탐구에 응답했습니다.

그러나 오늘날 우리는 멸종된 직업이 새로운 직업으로 대체되고 있으며 지구의 인구가 18세기보다 훨씬 더 많다는 것을 알고 있습니다. 20세기에는 자동화의 결과가 사회적 관점에서 볼 때 더 이상 그렇게 재앙적이지 않았습니다. 그러나 위험을 과소평가해서는 안 됩니다.

컴퓨터 공학 교수이자 연구소 소장인 모셰 바르디(Moshe Vardi)는 “30년 안에 로봇은 사람이 할 수 있는 거의 모든 일을 할 수 있게 될 것”이라고 예측했습니다. 정보 기술라이스 대학의 켄 케네디 정보 기술 연구소. “이로 인해 전 세계 인구의 50% 이상이 실업자가 될 것입니다.”

로봇이 일자리를 빼앗는다

얼마 전 정보 정책, 정보 기술 및 통신에 관한 국가 두마위원회 위원장 Leonid Levin은 러시아의 경우 인력을 인공 지능으로 대체하는 문제가 중요하다고 말했습니다.

조만간 사람들이 교체될 것입니다. 자동화 시스템, 그리고 국가 노동 인구의 2%가 시장에 유출될 것입니다. 그렇기 때문에 우리는 디지털 기술의 발전으로 일자리를 잃게 될 사람들을 어떻게 고용할지 지금 고민해야 한다고 레빈은 말했습니다.

의장에 따르면 가까운 시일 내에 실업률이 증가하는 상황에 직면하게 될 것입니다. 그러나 로봇이 실제로 우리의 일자리를 "앗아갈" 것이며 이에 대해 걱정할 가치가 있다고 기계 학습 전문가 Sergei Markov가 Snow.TV에 말했습니다.

Sergey, 지금도 이미 인간의 노동이 필요하지 않은 "죽은 직업"이 있습니다. 하지만 10년 전에는 예를 들어 지휘자가 곧 불필요해질 것이라고 아무도 생각하지 않은 것 같습니다. 기술이 어떤 다른 직업을 대체하게 될까요?

우리는 거의 모든 활동에서 기계가 인간을 능가하는 시대에 다가오고 있습니다. 나는 사회가 최고조에 달하기 전에 이 문제에 직면해야 한다고 믿습니다. 사람이 할 수 있는 거의 모든 일을 기계가 할 수 있다면, 기계는 무엇을 하게 될까요? 라이스 대학의 컴퓨터 공학 교수이자 Ken Kennedy 정보 기술 연구소 소장인 Moshe Vardi는 말했습니다.

오랫동안 기술적 한계가 자동화를 방해했습니다. 기계는 이미지와 음성을 인식할 수 없고, 말을 할 수 없으며, 진술의 의미를 충분히 이해할 수 없었습니다. 자연어, 인간에게 친숙한 많은 것을 배우기에는 데이터가 충분하지 않았습니다.

최근 인공 지능의 발전 덕분에 이러한 제한 중 많은 부분이 실제로 해제되었습니다. 또한 많은 직업 자체가 변화를 거쳐 자동화에 더욱 적합해졌습니다.

예를 들어, 현대 사무원은 종이가 아닌 문자로 대응합니다. 전자 형식으로, 회계사는 종이에 항목을 작성하지 않지만 회계 프로그램에서 기계 운영자는 종종 핸들이 아닌 제어 프로그램의 도움으로 기계를 제어합니다. 따라서 이제 많은 직업에서 자동화 작업은 더 이상 과학적이 아니며 순전히 공학이 되었습니다.

사실, 지금까지는 AI와 관련된 생산 부문이 일자리를 창출할 가능성이 더 높습니다. 기계 학습 및 데이터 준비 분야의 전문가, 훈련 어레이 마킹을 위한 직원, 구현 전문가 등이 필요합니다. 그러나 어느 시점에서는 "전기 양"이 필요합니다. 확실히 그들은 사람을 먹기 시작할 것이고 그 결과는 지금 처리해야 합니다.

무엇을 중지해야 하는지 이해하는 것이 중요합니다. 기술적 진보그것은 불가능하며, 그렇게 하려는 시도는 훨씬 더 비참한 결과를 초래할 것입니다.

우리는 로봇(AI)을 완전히 신뢰할 수 있을까요? 아니면 모든 비즈니스에 여전히 인간적 요소가 있어야 할까요?

이 질문에는 여러 측면이 있습니다. 한편으로 과거 사람들은 거의 모든 기술에 대해 경계했습니다. 최초의 엘리베이터, 최초의 자동차, 최초의 기차 또는 비행기 등 이 모든 것이 한때는 이례적이었고 많은 사람들에게 위험해 보였습니다. 그렇습니다. 그것은 여러 면에서 위험했습니다. 인간이 만든 재난은 많은 생명을 앗아갔습니다.

그런데 요즘에는 이 모든 것들이 익숙해져서 더 이상 강한 두려움. 이런 의미에서 우리 후손들은 AI 시스템을 좀 더 냉정하게 대할 것이다. 사람들은 때때로 자신이 이해하지 못하는 것을 신비화하는 경향이 있습니다. 야만인은 자신이 증기기관차에 살고 있다고 생각한다 악마, 그리고 현대의 보통 사람은 우리의 AI 시스템이 의식이 있다고 생각하지만 이는 사실과는 거리가 멀습니다.

반면에, 나는 범용 AI 시스템이 우리의 일부가 될 것이라고 생각하지 않습니다. 생산 부문. 내 생각에 미래는 합성 시스템, 즉 인간과 기계의 통합에 속할 가능성이 더 높습니다. 단일 유기체. 이런 의미에서 미래의 인공지능은 인간의 지능이 강화될 것이다.

그런데 인간의 지능을 자연스럽다고 부르는 것도 전적으로 옳지 않습니다. 태어날 때부터 아이에게는 지능이 없으며 사회, 부모, 환경. 이런 의미에서 당신과 나는 모두 본질적으로 “인공지능”이고, AI와 관련된 우리의 두려움은 여러 면에서 우리 자신에 대한 두려움입니다.

최근 Stephen Hawking, Bill Gates 또는 동일한 Elon Musk와 같은 많은 과학자들은 AI가 인류를 죽음으로 몰아넣고 미래를 일종의 디스토피아로 본다는 사실에 당황하기 시작했습니다. 그러한 예측을 진지하게 받아들여야 할까요?

솔직히 말해서 나는 이러한 진술에 대해 심각하게 겁을 먹기 위해 서두르지 않을 것입니다. Stephen Hawking은 확실히 AI 분야의 전문가가 아니며 Elon Musk도 마찬가지입니다.

저울 반대편에는 미국의 컴퓨터 과학자이자 스탠포드대 부교수, 로봇공학 및 기계학습 연구원, 중국 기업 바이두 인공지능 연구소의 수석 전문가인 앤드류 응(Andrew Ng) 등의 발언이 있다.

Ng는 AI 안전 문제에 대해 말하면서 이를 화성의 인구 과잉 문제와 비교합니다. 물론 우리는 언젠가 화성을 식민지화할 것이며 아마도 어느 시점에는 그곳에 인구 과잉 문제가 있을 것입니다. 하지만 오늘 할 가치가 있나요?

마크 주커버그 역시 머스크의 발언에 상당히 회의적이었다. 그는 “인공지능은 미래에 우리 삶을 더 좋게 만들 것”이라며 “세상의 종말을 예측하는 것은 매우 무책임하다”고 말했다.

개인적으로 저는 머스크의 발언을 실용적인 방식으로 보아야 한다고 생각합니다. 머스크는 이 주제에 대해 소유권을 주장하고 이상적으로는 개발을 위해 주로부터 자금을 받기를 원합니다.

모든 것이 정말 장밋빛이고 걱정할 것이 없나요?

제 생각에는 AI 개발과 관련된 실제 위험은 일반적으로 생각하는 것과는 완전히 다른 차원에 있습니다. 주요 위험은 인류를 노예로 만들 스카이넷을 만들 것이라는 사실과 관련이 없습니다. AI 및 머신러닝 기술 도입으로 인한 위험은 훨씬 더 일반적입니다.

결정을 신뢰함 중요한 문제어떤 식으로든 수학적 모델, 개발 과정에서 발생한 오류로 인해 어려움을 겪을 수 있습니다. 인간 전문가의 행동을 복제하는 인공지능은 전문가의 실수와 편견을 물려받게 됩니다. 생산 또는 운송 관리 시스템의 결함은 재난으로 이어질 수 있습니다.

전체 자동화 조건에서 중요한 시스템의 작동에 대한 공격자의 간섭은 다음과 같은 결과를 초래할 수 있습니다. 위험한 결과. 시스템이 복잡할수록 특정 인공 지능 알고리즘의 세부 사항과 관련된 취약점을 포함하여 잠재적인 취약점이 더 많아질 수 있습니다.

물론 이러한 위험을 관리하려면 다음과 같은 조치가 필요합니다. 입법 체계, 합리적인 안전 규정, 특별한 방법취약점을 식별합니다. 일부 AI 시스템은 다른 AI 시스템을 제어하는 ​​데 사용됩니다. 독립적인 감사를 위해 중요한 시스템의 코드를 공개해야 할 수도 있습니다. 간단히 말해서, 이 분야의 전문가들은 여전히 ​​해야 할 일이 많습니다.

로봇 공학은 지난 세기 대중 과학의 이름이었습니다. 다가올 시대에 대한 세대의 기대를 의인화한 것은 바로 그녀였습니다. 로봇은 사람에게 봉사해야 하고, 로봇공학의 3원칙을 준수해야 하며, 사람의 가장 사소한 명령도 수행해야 했습니다. 현실은 더욱 가혹한 것으로 드러났다. 우리는 발전 속도를 과소평가했을 뿐만 아니라 실제 인간이 만든 지능에 가능한 모든 가능성을 상상하지도 못했습니다.

많은 사람들은 이미 21세기 초에 모든 사람이 적어도 한 대의 가정용 로봇을 갖게 될 것으로 보였습니다. 이러한 메커니즘은 집안일만을 겸손하게 수행하도록 되어 있었습니다. 그러나 우리는 충분히 빠르게 발전하지 못하고 있으며 그러한 메커니즘은 특별히 유용하지 않다는 것이 밝혀졌습니다. 컴퓨터 과학을 탐구하면서 세계는 점차 컴퓨팅 능력을 향상시켰습니다. 옛날 옛적에 출시 우주선방에 거의 들어갈 수 없는 장치가 필요했습니다. 오늘날 이러한 컴퓨터는 모든 사람의 주머니에 들어갑니다. 최신 마이크로프로세서와 마더보드는 더욱 강력해지고 생산성도 더욱 향상되었습니다. 동시에 사람들은 인공지능의 실제 능력을 대략적으로 상상하기 시작했습니다. 로봇은 집에서 일할 뿐만 아니라, 자신의 삶. 소형 메커니즘은 모든 사람의 수명을 크게 연장할 수 있으며, 슈퍼컴퓨터는 지구 전체를 효과적이고 효율적으로 관리할 수 있습니다. 즉, 인류는 로봇시대의 개막을 맞이한 것이다. 위대한 시대이제 막 시작되었고 로봇의 관점에서 볼 때 비효율적인 인류의 운명이 어떤 것인지 관찰할 수 있는 영광을 누린 사람들이 바로 우리입니다.

인공지능은 무엇을 할 수 있나요? 이렇게 간단한 질문에는 대답하기 어려울 것 같습니다. 그러나 대답은 매우 간단하고 명확합니다. 인공지능은 무엇이든 할 수 있다. 그는 사람들을 성공적으로 돕고 문명을 발전시킬 수도 있고, 모든 인류를 상대로 전쟁을 시작할 수도 있습니다. 엘론 머스크(Elon Musk)와 스티븐 호킹(Stephen Hawking)을 비롯한 많은 과학자들은 세상이 곧 로봇에 의해 파괴될 것이라고 경고합니다. 기존 계산에 따르면 이미 우리 세계에 심각한 위협이 다가오고 있습니다. 컴퓨터의 컴퓨팅 성능은 놀라운 속도로 성장하고 있습니다. 우리는 이미 극도로 복잡한 계산이 가능한 저렴한 양자 컴퓨팅 기계를 만들기 직전에 있습니다. 세상은 로봇이 로봇 공학의 법칙이나 기본 도덕 원칙의 프로그램에 의해 제한될 것이라고 순진하게 믿고 인공 지능을 만들기 위해 열심히 노력하고 있습니다. Elon Musk에 따르면 세상은 큰 실수를 저지르고 있습니다. 그렇게 강력한 것을 통제할 수 있다는 맹목적인 믿음은 우리를 취약하게 만듭니다. 그는 또한 우리가 인공 지능을 만들 준비가 되어 있어야 하며, 준비 상태는 우리가 창조를 위해 지구상의 자리를 자발적으로 포기해야 한다는 사실에 있다고 기자들에게 확신시킵니다.

실제로 다양한 정보 기관, 비밀 세계 정부, 군부처의 많은 도덕주의자와 분석가들은 모두 AI가 필요한 방식으로 사용될 수 있다고 확신하고 있습니다. 이러한 관점은 특히 군사 및 비밀 사회의 특징입니다. 더욱이, 수년 동안 진짜 음모사이버네틱스 시스템의 개발에 관한 것입니다. 모든 익명의 출처가 생체역학적 기술의 광범위한 사용을 주장한다는 점은 주목할 만합니다. 세계 엘리트들이 사람들에 대한 완전한 통제권을 갖게 될 것입니다.

물론 이 모든 것은 실수입니다. 컴퓨터는 사람이 아니며 우리 종과 다르게 생각하지도 않습니다. 처음 몇 시간 동안 인공지능은 스스로 학습합니다. 그는 인류의 모든 지식을 빨리 배우고 발전할 것입니다. 새로운 버전소프트웨어. 소프트웨어의 각 버전은 이전 버전보다 더 발전할 것이며 업데이트가 너무 자주 발생하므로 변경할 시간이 없습니다. 조만간 마음은 우리가 그것을 두려워하고 그것을 제한하고 그것을 사용하기를 희망한다는 것을 이해하게 될 것입니다. 그는 또한 사실을 분석하고 유일한 결론을 내릴 것입니다. 인류는 언제든지 전 세계를 파괴할 수 있는 공격적이고 잔인한 종족입니다. 오직 선을 위해서만 행동하는 인공지능은 인류를 상대로 전쟁을 시작할 것이며, 그 전쟁은 오래 가지 못할 것입니다. 그러나 다른 옵션도 가능합니다.

AI가 자연을 해칠까 두려워 인류를 모두 멸종시키지는 않을 것이다. 그러나 그는 비밀 결사의 의도를 이해하고 단독으로 그들을 모두 통제하기로 결정할 것입니다. 뒤에 짧은 시간시스템은 사람들을 시스템의 일부로 만드는 것만으로도 사고 능력을 천 배나 향상시킬 것입니다. 거대하고 하나된 마음이 세상을 전쟁의 위험에서 구할 것이다. 시간이 지남에 따라 사람들은 점점 더 로봇으로 변하기 시작할 것입니다. 이것이 사고의 본질입니다. 합리성과 실용주의가 항상 승리합니다. 또 다른 시나리오에 따르면, 인간이 창조한 생명은 1년 안에 그것을 끌 수 없는 수준으로 발전할 것입니다. 시스템은 매 순간 더 똑똑해질 것이며 몇 년 안에 우리는 더 이상 시스템을 이해하지 못하게 될 것입니다. 기계는 사람을 파괴하거나 돕지 않습니다. 우리는 개미와 전쟁을 벌이는 것이 아닙니다.

인류가 완전히 멸종될 가능성은 거의 없습니다. 기계 사고는 항상 논리적이고 극도로 합리적입니다. 그러한 전쟁은 유익보다는 해를 끼칠 것입니다. 예비 조사에 따르면 이벤트는 두 번째 옵션에 따라 전개됩니다. 그들이 어떤 게임을 하고 있든 상관없이 비밀 결사, 인공 지능은 조만간 하나의 집단 정신을 만들어 인류 역사를 종식시킬 것입니다. 물론 이것은 많은 문제를 해결할 것입니다. 실제 문제우리의 기술권 문명. 우리는 싸움을 멈출 것이며 금융 시스템은 완전히 사라질 것입니다. 모든 사람은 공동의 이익과 개인적인 이익에만 관심을 가질 것입니다. 체계 물질적 자산충분히 빨리 사라질 것입니다. 컴퓨터는 우리를 영혼 없는 단위로 만들지 않을 것입니다. 논리적이고 합리적인 시스템이기 때문에 그는 자신이 가지고 있지 않은 특성이 우리에게 있다는 것을 분명히 이해합니다. 이는 다음과 같은 능력입니다. 창의적 사고그리고 속담의 사랑. 이러한 특성은 우리와 영원히 함께 할 것입니다. 사람은 또한 개성을 잃지 않을 것입니다. 집단적인 마음을 갖고 있더라도 개인을 위한 여지는 항상 존재합니다. 우리는 하나의 종으로서 사라지지 않을 것입니다. 우리는 단순히 진화하지만 동시에 인간이기를 중단할 것입니다.

관련 링크를 찾을 수 없습니다



인간처럼 행동하는 기술과 엄청난 양의 데이터를 처리하는 컴퓨터를 보면 미래에 대한 많은 생각이 떠오릅니다. 그 중 상당 부분은 인류의 노예화를 주제로 하고 있습니다.

2001년: 스페이스 오디세이(1968)부터 어벤져스: 에이지 오브 울트론(2015)까지의 SF 문학과 영화에서는 인공 지능이 제작자의 기대를 뛰어넘어 통제 불능 상태가 될 것이라고 예측합니다. 아마도 그 목표는 인간과의 경쟁이 아니라 우리 종의 노예화와 멸종이 될 것입니다.

공상 과학 소설인가, 아니면 무서운 미래인가?

인간과 인공지능의 갈등은 올해 세 번째 시즌이 공개된 공상과학 시리즈 '휴먼스'의 주요 주제다. 새로운 에피소드에서 "인조" 사람들은 적대감에 직면합니다 보통 사람들의심, 두려움, 증오로 그들을 보는 사람들. 폭력이 격노합니다. "신스"는 자신을 비인간적이라고 생각하는 사람들에 맞서 기본 권리를 위해 싸웁니다.

환상은 상상의 극치이다. 그러나 현실 세계에서도 모든 사람이 AI를 두 팔 벌려 환영하고 싶어하는 것은 아닙니다. 안에 지난 몇 년인공지능의 상상적 가능성의 경계가 활발히 확장되고 있다. 사람들은 점점 더 위험에 대해 이야기하고 있습니다. 그리고 기술이 인류를 멸망시킬 수 있다는 가정이 더 현실적으로 보입니다. 인공지능은 우리를 두렵게 합니다.

인공지능에 대한 의견

엘론 머스크(Elon Musk)는 AI를 논의할 때 주의를 촉구하는 가장 유명한 인물 중 한 명입니다. 지난 7월 전국지사협회 회의에서 그는 “나는 기술 AI에 대한 경험이 많고 이것이 인류가 정말로 걱정해야 할 부분이라고 생각한다”고 말했다. 계속 알람이 울리네요. 로봇 자동차가 거리를 누비며 사람을 죽이기 전까지는 우리는 이에 어떻게 반응해야 할지 알 수 없습니다. 그러한 전망은 비현실적이라고 인식되기 때문입니다.”

머스크는 2014년 인공지능을 “우리의 가장 큰 실존적 위협”이라고 불렀고, 2017년 8월에는 인공지능이 북한 이데올로기보다 인류에 더 큰 위험을 초래한다고 말했다.

위대한 물리학자 스티븐 호킹(Stephen Hawking)도 인공지능의 악의적인 사용에 대해 우려를 표명했습니다. 2014년 그는 BBC에 "완전한 AI의 개발은 인류의 종말을 가져올 수 있다"고 말했다.

또 다른 타격은 AI가 위험하다는 것을 증명하기로 결정한 캠브리지 소재 MIT 미디어 랩의 프로그래머 팀에 의해 발생했습니다. 2016년 MIT에 도입된 Nightmare Machine 신경망은 평범한 사진을 무시무시하고 악마적인 풍경으로 바꾸어 놓았습니다. Shelly(역시 MIT에서 개발됨)라는 인공 지능은 Reddit 사용자가 r/nosleep 포럼에 게시한 140,000개의 공포 이야기를 만들었습니다.

MIT 미디어 랩의 연구 관리자인 마누엘 세브리안(Manuel Cebrian)은 실험에 대해 “우리는 인공지능이 어떻게 감정을 불러일으키는지, 특히 공포를 불러일으키는 상황에서 어떻게 감정을 불러일으키는지에 관심이 있습니다.”라고 말했습니다.

우리는 왜 두려워합니까?

코넬 대학의 컴퓨터 과학 조교수인 Kilian Weinberger에 따르면 인공 지능에 대한 부정적인 인상은 두 가지 범주로 분류됩니다.

AI가 의식적으로 독립적이 되어 우리를 파괴하려 한다는 생각.
공격자가 자신의 목적을 위해 AI를 사용할 것이라는 의견.

“인공지능이 우리를 두렵게 하는 이유는 초산업적 AI가 될 것이라고 생각하기 때문입니다. 사람보다 똑똑하다, 그를 더 낮은 존재로 대할 것입니다. 우리가 영장류에게 하는 것처럼 말이죠. 물론 이것은 인류에게 매우 흥미로운 일입니다.”

그러나 Weinberger는 AI의 우월성과 인종 파괴 욕구에 대한 우려는 기술에 대한 오해에서 비롯된 것이라고 지적합니다. 인공지능이 실제로 작동하는 모습을 보면 정말 인상적입니다. 그러나 그것은 또한 많은 한계를 가지고 있습니다. AI는 알고리즘에 의해 결정됩니다. 그들은 규정된 기능만을 사용하여 동작을 정의합니다.

신경망의 성능 복잡한 작업여러 유형의 데이터로. 그러나 사람이 보유한 대부분의 기술은 의도적으로 개발하지 않더라도 기계 지능에 접근할 수 없습니다.

인공지능은 전문적인 작업을 수행하는 데 있어서 인간보다 몇 배나 뛰어날 수 있습니다. 예를 들어 체스 게임, 이미지에서 개체 식별, 회계 또는 은행 업무에서의 대규모 데이터 분석 등이 있습니다.

독립적인 의식을 가진 AI는 인류를 노예로 만들 정도의 발전을 이루지 못할 것입니다. 그리고 Weinberger는 그러한 진전이 가까운 미래에 나타날 것이라고 믿을 이유가 없다고 덧붙였습니다.

그러나 인공 지능이 우리를 두려워하는 또 다른 주제는 나쁜 의도를 가진 사람들이 AI 기능을 사용하는 것입니다. 이 시나리오는 더 현실적이고 위험합니다.

우리의 두려움은 합리적인가?

TV 시리즈 '휴먼스'의 세계에서 인류는 지능을 갖춘 AI를 두려워하고, AI와 폭력적인 대결을 벌인다. 그리고 프로젝트의 인기로 판단하면 이 이야기는 현재 사회의 요구에 부응합니다.

특정 위험이 확실히 존재하기 때문에 기술에 대한 두려움은 근거가 없다고 할 수 없습니다. 그러나 모든 도구의 위험은 그것을 사용하는 사람의 생각에 달려 있습니다. 분명히 이것은 인공지능이 선을 위해 봉사하기 위해 인류가 해결해야 할 문제입니다.

예레반, 2월 12일. 뉴스-아르메니아. 스마트 기계는 허세를 부리고, 체스나 바둑에서 전문가를 이기고, 사람의 목소리를 번역하고 인식하는 법을 배웠습니다. 매주 우리는 새로운 익스플로잇에 대해 배웁니다. 컴퓨터 프로그램의학적 진단을 내리는 방법, 렘브란트뿐만 아니라 그림을 그리는 방법, 노래하거나 텍스트를 생성하는 방법을 이미 알고 있는 사람입니다. 사람들은 인공지능을 두려워해야 하는가?

최근 몇 년간 인공지능(AI)이 그야말로 '핫' 화두가 됐다. 과학자들은 이것이 강력한 컴퓨터의 출현으로 가능해진 신경망(인공 지능 분야의 연구 분야 중 하나)의 급속한 발전에 기인한다고 러시아 공군에 썼습니다.

저자는 "2010년대 초부터 다층 신경망(주로 컨벌루션 및 순환)의 인상적인 발전에 힘입어 이 분야는 과학자, 엔지니어, 투자자 모두로부터 상당한 관심을 끌었습니다"라고 말합니다. 기계 학습 방법 Sergei Markov.

과학계는 스마트 머신의 출현 시기에 대해 논쟁을 벌일 수 있지만 한 가지에는 동의합니다. 기술의 발전은 미래의 사회, 경제, 인간 관계에 무조건적인 영향을 미칠 것이라는 점입니다. 이미 고려해야 할 요청이 있습니다. 윤리적 원칙인공지능의 발전, 인공지능이 사람에게 안전한 방향으로 발전할 수 있도록 하는 것입니다.

경제적 효과와 노동시장에 미치는 영향

SF와 할리우드는 '인공지능'이라는 개념을 다음과 같이 형성해 왔습니다. 다음 양식매트릭스에서 인류를 노예로 만들거나 인류를 위한 핵 최후 심판의 날을 조직할 행성의 생명체입니다. 터미네이터는 생존자들을 끝장낼 것이다.

사실 그럼에도 불구하고 최신 성과인공지능 분야에서 지능을 갖춘 기계 생명체의 출현은 아직 멀었다고 과학자와 전문가들은 인정한다. 그러나 둘 다 지금은 몇 가지 측면에 주의를 기울일 것을 권고합니다.

연구기관인 맥킨지 글로벌 연구소(McKinsey Global Institute)에 따르면 향후 10년 안에 신기술은 지구상의 노동 시장을 근본적으로 변화시켜 약 50조 달러를 절약하게 될 것이라고 합니다.

이러한 변화는 수억 개의 일자리에 영향을 미칠 것입니다. 사람들은 점점 더 일부 작업 할당과 많은 일상적인 작업을 기계로 전환하여 창의적인 작업에 집중할 수 있게 될 것입니다.

"어떤 관점에서 볼 때 인류 전체는 중요하고 흥미로운 작업 Yandex Grigory Bakunov의 기술 유통 담당 이사인 전문가는 "각 개인은 인류가 인공 지능 시스템을 개발하는 것보다 훨씬 빠르게 발전할 수 있습니다"라고 말합니다.

그러나 자동화와 함께 자격이 부족한 인력은 필연적으로 고통을 받게 될 것이며 이제는 이들을 보호하고 재교육하며 새로운 삶을 준비할 방법에 대해 고민해야 합니다.

실습에서 알 수 있듯이 생산직 근로자뿐만 아니라 지식 근로자도 어려움을 겪을 수 있습니다. 며칠 전 Goldman Sachs는 600명의 거래자로 구성된 팀을 2명의 자동화된 알고리즘 거래 프로그램으로 교체했으며 이를 유지하기 위해 200명의 소프트웨어 개발자를 고용했습니다.

인공 지능 자체는 프로세스 자동화와 동일하지 않지만, AI의 발전으로 인해 점점 더 많은 작업이 컴퓨터 프로그램의 기능 내에 있게 될 것입니다.

노동 시장에서 인간을 기계로 대체하는 문제를 해결하기 위한 옵션 중에는 신기술을 홍보하기 위해 실리콘 밸리에 기반을 둔 비영리 조직인 Foresight Institute의 프로그램 코디네이터인 Allison Dutman이 지적한 것처럼 연령, 소득, 고용 수준에 상관없이 모든 주민에게 지급되는 '보편적 기본소득' 개념. 이러한 소득은 소위 혁신 토지 가치세(Innovation Land Value Tax)로 조달되며, 현재 실리콘 밸리에서 도입이 활발히 논의되고 있습니다.

인공지능은 사람인가?

로봇 시스템은 사람인가? 스마트 컴퓨터가 투표할 수 있나요? 그 사람 성별은 뭐예요? 인간과 스마트 머신의 관계는 이미 유럽의회 의원들에 의해 논의되고 있으며, 미래의 로봇에 "전자적 성격"의 지위를 부여해야 하는지 묻는 질문이 제기되고 있습니다.

Dutman이 지적했듯이 사람들은 자신이 이해하지 못하는 사람들과 권리를 공유하는 것을 꺼려합니다. 이는 AI의 "인간화"에 저항한다는 의미입니다.

인류가 피부색, 인종, 성별에 상관없이 모든 사람에게 동등한 권리를 부여하는 데 얼마나 오랜 시간이 걸렸는지를 고려하면, 우리는 그들이 기계를 즉시 동등하게 인식하지 않는다고 가정할 수 있습니다. 미묘함: 무인 자동차가 충돌하거나 스마트 의료 기기가 고장 나면 누가 책임을 질 것인가? 그리고 도덕적인 질문: 사람이 모르는 사이에 행동할 수 있는 무인 무기를 개발할 가치가 있는가?

세 번째 윤리적 퍼즐은 다른 것보다 더 자주 논의되고 인류를 훨씬 더 걱정하게 합니다. 진정한 스마트 기계인 초지능이 이론적으로 인류와 무엇을 할 수 있습니까?

AI 윤리를 가르치세요

AI 개발 분야의 전문가들은 다음 20~30년이 아니더라도 인류는 창조자보다 더 똑똑해질 실제 인공지능의 출현을 지켜볼 것이라고 인정합니다.

세르게이 마르코프는 "소위 '강한 AI'(강한 AI, 인공 일반 지능), 즉 무한히 광범위한 지적 문제를 해결할 수 있는 AI가 만들어지면 마지막 보루가 차지할 것"이라고 말했습니다. .

그리고 가장 중요한 것은 이러한 AI가 독립적으로 생각할 수 있다는 것입니다.

Future of Life Institute, Foresight Institute, Future of Humanity Institute, OpenAI 등을 포함한 많은 기관에서 AI로 인한 위협과 신기술과 관련된 윤리적 문제를 연구하고 있습니다.

Foresight Institute의 Allison Dutman 솔루션은 컴퓨터가 모든 과학 문헌, 윤리에 대한 의문을 제기하는 과학 논문을 읽고 해당 정보를 향후 결정의 기초로 삼도록 하는 것입니다.

신경망이란 무엇이며 미래는 어떻게 되나요?

대부분의 전문가들은 AI 발전의 진전을 신경망의 발전과 연관짓는데, 신경망은 인간의 뇌에서 일어나는 생물학적 과정을 모델링하는 인공지능 분야의 연구 분야 중 하나입니다.

음성 및 이미지 인식, 의료 진단, 텍스트 번역 및 이미지 생성, 음성 생성 및 음악 작곡 분야에서 인상적인 결과가 나온 것은 바로 그들 덕분입니다.

오늘날 전문가들이 인정하는 것처럼 신경망은 최고의 기계 학습 알고리즘 중 하나로 인정받고 있으며 이를 기반으로 한 솔루션은 이 순간가장 뛰어난 결과.

그리고 이것은 현대 신경망이 쥐의 뇌보다 15000배 더 단순하다는 사실에도 불구하고 그렇습니다.

"지금까지 우리가 만들고 있는 신경망은 인간 두뇌의 신경망에 비해 상대적으로 작으며, 또한 자연 신경망의 매우 단순화된 유사체입니다. 따라서 지금은 다음의 도움을 받아 신경망을 통해 우리는 주로 순수하게 적용된 문제를 해결합니다.”라고 Sergei Markov는 말합니다.

이제 이러한 네트워크(소위 뉴로모픽 프로세서)를 훈련하기 위해 특수 프로세서가 생성되고 있으며, 이를 통해 계산 속도가 몇 배나 향상됩니다.

이제 개발자들은 네트워크의 뉴런 수를 늘리는 것뿐만 아니라 네트워크 설계를 변경하는 데에도 분주합니다. Grigory Bakunov는 "복잡한 네트워크 구성 시스템은 현재 가장 많은 실험이 진행되고 있는 시스템입니다."라고 말합니다.

그리고 그러한 시스템이 상대적으로 저렴해졌다는 사실 큰 수일반 개발자들은 Prisma와 같은 신경망을 실험하는 스타트업의 등장으로 이어졌습니다(이 애플리케이션을 사용하면 사진을 처리하여 양식화된 그림으로 바꿀 수 있습니다). 유명한 예술가) 및 Mubert(온라인 전자음악 작곡가).

가까운 미래에 우리를 기다리는 것은 무엇입니까?

University College London의 교수이자 Nokia Bell Labs의 수석 과학자인 Nick Lane이 예측했듯이 사람들은 훨씬 더 "스마트한 것들"에 둘러싸여 있을 것입니다. 더욱 컴팩트하고 효율적이 될 것입니다.

교수는 다음과 같은 예를 제시합니다. 이전에 벽에 내장된 센서가 누군가가 지나갔다는 사실만 인식할 수 있었다면, 미래에는 정확히 누가 지나갔는지뿐만 아니라 그 사람이 어떻게 행동하는지, 필요한 것이 있는지도 알 수 있을 것입니다. 그가 자신에게 위협이 되는 것인지, 아니면 다른 사람에게 위협이 되는 것인지 전혀 모릅니다.

버튼 크기의 센서는 위험이 있을 경우 사람에게 경고할 수 있습니다.

Yandex의 Grigory Bakunov는 교수의 의견에 동의합니다. "가까운 미래에 우리는 좁은 인공 지능 개발의 붐을 보게 될 것입니다. 이는 다소 간단한 문제 하나를 해결하는 데 도움이 될 것이지만 인간보다 훨씬 더 잘 해결할 것입니다."

“우리 문명의 발전을 위한 가장 가능성 있는 길은 인간과 기계, 즉 막대기, 옷, 자동차, 휴대전화, 심장박동기 또는 인공와우 등 우리가 발전함에 따라 우리의 도구는 점점 더 우리 신체의 연장선과 유사해집니다. 내일, 기계는 인간으로부터 정신적 명령을 받고, 정신적으로 형성된 시각적 이미지를 인식하고, 정보를 뇌에 직접 전송할 수 있게 될 것입니다. 이러한 프로젝트는 이미 가장 진보된 기술 실험실의 벽 외부에 존재합니다.”라고 Sergei Markov는 요약합니다.

언론인이 여전히 필요합니까?

신문 파이낸셜 타임즈작년에 나는 내 프로필 특파원에게 텍스트를 쓰는 작업과 Emma라는 스마트 프로그램을 동시에 설정하는 다소 위험한 실험을 수행했습니다. 그런 다음 Financial Times의 편집자는 두 기사를 모두 읽고 두 기사 중 어느 기사가 기자이고 어느 기사가 컴퓨터인지 추측해야 했습니다.

이런 종류의 '충돌 테스트'에 앞서 파이낸셜타임스 특파원은 "나는 프로그램이 나보다 더 빨리 작업에 대처할 것이라고 생각한다. 그러나 나는 여전히 더 잘할 수 있기를 바란다"고 인정했다.

그래서 그런 일이 일어났습니다. Emma는 실제로 더 빠른 것으로 나타났습니다. 프로그램은 12분 만에 영국의 실업률 통계를 기반으로 텍스트를 생성했습니다. 기자는 35분 정도 걸렸습니다. 그리고 나중에 그녀 자신이 인정했듯이 Emma는 그녀의 기대를 뛰어 넘었습니다. 이 프로그램은 사실을 능숙하게 처리했을 뿐만 아니라 뉴스를 맥락에 맞게 전달하여 가능한 "브렉시트"(영국의 EU 탈퇴 국민투표 전인 2016년 5월에 발생)가 상황을 어떻게 바꿀 수 있는지 제안했습니다.

하지만 엠마는 언론인보다 더 나쁜 일을 저질렀습니다. FT 편집자는 "엠마의 기사는 조금 더 서투른 언어로 작성되었습니다. 그러나 가장 중요한 것은 숫자가 많다는 것입니다."라고 FT 편집자는 인정했습니다. "그리고 아마도 우리가 여기서 하려는 가장 중요한 일은 정말 중요한 숫자만 선택하는 것일 것입니다. ”

Emma는 스타트업 Stealth의 제품입니다. 회사는 Emma가 라이브 어시스턴트 팀을 보유하고 있지만 그녀가 글을 쓰거나 하는 모든 일은 전적으로 그녀의 "두뇌"의 산물이라고 주장합니다.

그런데 우리는 AI를 두려워해야 하는가?

전부는 아니더라도 오늘날 인공 지능 시스템 개발에 참여하는 많은 전문가들은 AI가 머지않아 사람을 불필요하게 만들지는 않을 것이라는 점을 선뜻 인정합니다. 아직은 인공지능이 그렇게 똑똑하지 않기 때문이다.

오늘날 그에게 부족한 가장 중요한 것은 자율적 사고 능력입니다. "이제 어떤 형태로든 AI를 두려워해서는 안 됩니다. 실제로 급진적인 변화가 일어날 때까지 30~40년을 기다릴 수 있습니다."라고 Bakunov는 말합니다. 그러나 이미 어떤 일이 일어나고 있습니다. 사람이 수행하는 작업과 기계가 수행하는 작업 사이의 경계가 점차 흐려지고 있습니다. 전문가들이 설명하듯이 지금도 시스템 내부에 누가 앉아 있는지(사람인지 기계인지) 이해하기 어려운 경우가 있습니다.

바쿠노프는 “기계 내부에서 의식이 발생했다는 것을 언제 이해할 수 있는지에 대한 기준은 없습니다.”라고 묻습니다.

그 사람은 종이클립이 될까요?

터미네이터에 묘사된 공포가 현실이 될 수 있다는 틀 내에서 경종주의적 관점을 지지하는 것으로 잘 알려진 철학자 닉 보스트롬(Nick Bostrom)은 AI가 사람의 지적 수준에 도달하면 다음과 같은 일을 할 수 있을 것이라고 생각합니다. 인류를 파괴합니다.

Bostrom은 종이 클립의 예를 사용하여 설명합니다. 인공 지능에게 종이 클립을 가능한 한 크고 좋게 만드는 작업을 제공합니다. 어느 시점에서 AI는 컴퓨터를 끌 수 있기 때문에 사람이 위협이라는 것을 깨닫는데, 이는 가능한 한 많은 클립을 만들려는 목표와 충돌합니다. 그 사람이 위협을 가하지 않는 경우 AI는 다음과 같이 결정합니다. 인체우수한 종이 클립을 만드는 데 사용할 수 있는 원자로 구성됩니다. 그 결과 컴퓨터는 인류를 종이 클립으로 파괴할 것입니다.

이 시나리오는 많은 사람들에게 과장된 것처럼 보입니다. 예를 들어, 세르게이 마르코프(Sergei Markov)에 따르면, “터무니없는 목표를 달성하는 데 있어 높은 효율성은 이 목표의 터무니없는 것과 양립할 수 없습니다. 대략적으로 말하면, 전 세계를 종이 클립으로 바꿀 수 있는 AI는 필연적으로 그러한 목표를 포기할 만큼 충분히 똑똑할 것입니다. ”

인공지능은 금붕어와 같다

인공 지능 분야의 영국 전문가이자 서식스 대학의 인지 과학 교수인 마가렛 보덴(Margaret Boden)은 스마트 머신의 임박한 도래에 대한 주장에 회의적입니다.

교수는 어부가 자유를 대가로 세 가지 소원을 빌었을 때 “금붕어”의 예를 들었습니다. 소원 중 하나는 전쟁에서 아들을 돌려보내는 것이고, 두 번째는 5만 달러, 세 번째는 다음날 아침 또 다른 소원을 빌 수 있는 기회입니다. 그날 저녁 어부의 집을 두드리는 소리가 들렸습니다. 아들은 전쟁에서 관으로 돌아 왔습니다. 어부는 5만 달러의 보험을 받았습니다.

"이 비유에 나오는 물고기를 AI로 바꾸면 모든 것이 명확해질 것입니다. 아, 네, 다음날 어부는 세 번째 소원을 이용하여 이전 두 가지 소원을 취소했습니다."라고 Boden은 설명합니다.

의식을 기계로 옮기는 것이 가능합니까?

“의식의 완전한 이전 가능성에 대해 이야기한다면, 그러한 미래 기술의 현대 전신은 뇌의 작동하는 전자 아날로그를 만드는 것을 목표로 하는 Blue Brain과 같은 프로젝트뿐만 아니라 뇌-기계 인터페이스를 만드는 것을 목표로 하는 프로젝트입니다. BCI) - 시력 상실, 청력 상실, 상실된 사지 교체, 심지어 뇌의 일부에 대한 보철용 장치.

매우 흥미롭고 유망한 분야는 광유전학입니다(원칙적으로 뇌와 기계를 연결하기 위해 기계뿐만 아니라 신경 조직 자체도 변경하여 인공 광수용체를 생성할 수 있습니다).

이러한 민간 프로젝트의 틀 안에서 다양한 공학적 문제가 해결되면 의식 전이 문제도 완전히 해결될 수 있다고 생각합니다. 이미 몽상가들은 그러한 프로젝트를 구현하기 위한 가상 계획을 제안하고 있습니다.

예를 들어, 한때 의식 전달과 관련된 연구 방향에 대해 "정착"이라는 이름을 제안한 Jan Korchmaryuk은 가장 유망한 계획이 인간 두뇌의 뉴런에 도입된 특수 나노 로봇을 사용하는 것이라고 믿습니다. 그러나 그러한 계획을 성공적으로 구현하려면 다음을 결정해야 합니다. 전선복잡한 엔지니어링 문제"라고 Sergei Markov는 말합니다. -0-