AGI, Artificial General Intelligence
인공 일반 지능
흔히 강인공지능(Strong AI)이라고 분류되는 인공지능 중의 하나
인공 일반 지능이라는 용어에서 일반(General)의 의미는 '일반적이다'라는 단어의 평범한 의미보다는 특수 상대성 이론을 일반화시킨 일반 상대성 이론에서 '일반'의 의미처럼, 말 그대로 '범용' 혹은 '통상'의 뜻으로 이해하면 좋다. 이 때문에 일본 등 일부 국가에서는 인공 일반 지능을 '범용 인공지능'이나 '인공 범용 지능' 등의 보다 직관적인 명칭으로 호칭하기도 한다.
쉽게 설명하자면, 특정한 조건 하에서만 적용할 수 있는 약인공지능과 달리 모든 상황에 일반적으로 두루 적용할 수 있는 AI를 말한다. 인공 일반 지능은 약인공지능과 달리 한 번도 해 보지 않은 꽃꽂이를 남들이 하는 것을 보고 배워서 한다든가, 방범 업무를 경찰에게 인수 인계 받아서 학습하여 한다든가 하는 것도 가능하다.
약인공지능이 신경 덩어리라면 이것은 그 신경 덩어리의 집합이라 일컬을 수도 있는데 이는 단순한 집합의 의미뿐만 아니라 집합 사이에서 이루어지는 유기적인 정보 처리 반응이 핵심이 된다는 의미이며, 현실에서 인공지능 연구가들이 목표 삼는 인공지능이 바로 이 인공 일반 지능이다.
이 단계의 인공 지능부터는 인공지능 특이점과 관련된 위험성이 의심된다. 때문에 일각에서는 진짜 인공 일반 지능을 연구하는 대신 수많은 분야의 약인공지능을 개별적으로 분리해 놓고, 그것을 포괄적으로 관리하는 서비스 시스템을 따로 만들어서 간접적으로 범용의 인공 지능을 구현해야 한다고 주장하기도 한다. 즉 신경 덩어리를 유기적으로 결합하지 않고 기계적으로 결합시키자는 의견인데, 이렇게 하면 시스템을 관리하는 인간이 언제나 우위에 있게 되어 인공 지능이 특이점을 돌파하지 못하므로 초지능이 만들어질 가능성도 억제된다고 한다.
인공 일반 지능보다 더 뛰어난 것이 인공 의식이다. 물론 만들어진 것을 의식이라고 일컫는 것에 대한 거부감은 순전히 떨쳐낼 수 있을 것이라고 믿지 않는 사람들도 많고, 아직까지도 이런 기술을 개발하는 데 진전이 몹시 더디기 때문에 실제로 구현될 때에는 이름이 바뀔 수도 있다.
2023년 3월 마이크로소프트 리서치에 따르면 OpenAI에서 개발한 언어모델 GPT-4가 인공 일반 지능에서 기대 되는 능력을 현상적(phenomenological)으로 보여준다는 주장을 논문을 통해 제기했다. 그 대표적인 근거로는 1.이전 인공지능 모델들에서는 존재하지 않았던 추론능력이 생겨났고, 2.논리적 사고가 가능하며 3.수학, 법률, 코딩 등과 같이 범용성있는 작업들을 수행할수 있고, 4.언어데이터로만 학습된 모델인데도 불구하고 그림그리기와 같은 작업을 성공적으로 수행하며 단순히 그럴듯한 답변을 생성하는 수준을 넘어서 언어에 내포된 개념을 실제로 응용하고 있음을 보여주었기 때문이다.
그러나 논문의 마지막 10장의 "방향과 결론" 섹션을 보면, GPT-4가 인공 일반 지능에서 기대되는 추리, 창의, 연역추론과 같은 지능을 이전 문단에서 기술한 바와 같이 여러 영역에 걸친 작업을 수행해냄으로써 보여줬지만, 엄밀한 인공 일반 지능 시스템의 정의 하에서 그 지능이 평가된 것은 아니라는 점을 인정하고 있다.
다시 말해, 엄밀한 인공 범용 지능 시스템의 성능을 정의 하려는 여러 시도가 있지만 (얼마나 많은 문제를 해결할 수 있는가, 능력 취득 효율성, 등) 아직까지는 어느 것도 완전하지 않으며, 특히 ‘사람이 할 수 있는 모든 일을 할 수 있는 시스템’은 실제로는 다른 사람이 할 수 있는 일을 완벽하게 훌륭히 할 수 있는 사람은 실존하지 않는 다는 점에서 실제로 그런 단일화 된 기준으로 측정이 가능한가에 대한 의문을 표하고 있다.
그리고 이 논문의 내용은 전적으로 현상적이며, 어떻게 해서 대규모 언어 모델(LLMs)에서 여러 영역에 걸쳐 활용 가능한 일반적 지능 (추리, 창의, 연역)이 나타나게 되는지 원리를 알지 못한다고도 인정하고 있다.
요약하자면, 기존의 인공지능 시스템은 한 분야에서 훈련된 능력을 다른 영역에서 활용하지 못했는데, GPT-4에서는 그것이 가능했다는 점에서 “인공 일반 지능의 불씨”라고 불리울만 하지만, 이것이 진정 모든 영역에 적용될 수 있는 인공 일반 지능임을 알아냈다거나, 혹은 그것을 가능하게 한 원리나 이유를 알아내지는 못했다는 것이다.
2024년 3월 발표된 미국 정부의 용역보고서에 의하면 2028년에 AGI가 등장할 것이라고 전망했다.
인공 일반 지능 조건
메타큘러스
아래는 미래 예측 통계 사이트 Metaculus에서 제시한 AGI의 달성 조건이다. 이 테스트는 기본적으로 통과하면 인간 지능에 준하는 지능이 있다고 간주하기 한 튜링 테스트이다. 따라서 이 조건을 달성한다고 해서 일반 인공 지능이 실제 완전히 구현되었음을 의미하는 것은 아니다.
| - 참가자는 일반 문자 메시지, 애플리케이션등과 같은 텍스트, 이미지, 오디오 파일을 통해 대화하는 2시간 동안의 '적대적' 튜링 테스트를 안정적으로 통과할 수 있어야 한다. 튜링 테스트는 난이도가 높고 인간 참가자가 유리하도록 설계되었으며, 심사위원들은 참가자가 컴퓨터인지 인간인지 식별하기 위해 어려운 질문을 하도록 지시받는다. AI가 이 적대적 튜링 테스트를 통과하고 메타큘러스 관리자가 잘 설계된 것으로 간주하면 이 요건을 충족한 것이다. - 사람이 읽을 수 있는 지침이 주어지고 필요한 액추에이터가 장착된 2021년경의 페라리 312 T4 1:8 스케일 자동차 모델 또는 이와 동등한 모델을 자율적으로 조립할 수 있는 능력을 보여야 한다. 한 번의 성공적인 시연 또는 이와 충분히 유사한 것으로 간주되는 시연으로 이 요건을 충족할 수 있다. - 댄 헨드릭스 등이 개발한 Q&A 데이터 세트(MMLU)의 모든 작업에서의 75% 이상의 정확도 및 평균 정확도 90%를 달성하여 다양한 전문 분야에서 높은 역량을 보여야 한다. - 댄 헨드릭스, 스티븐 바사트 등이 도입한 APPS 벤치마크에 포함된 인터뷰 수준의 문제에서 90.0% 이상의 엄격한 상위 1% 정확도를 달성하는 능력을 갖춰야 한다. '상위 1% 정확도'란 여러 개의 출력을 생성하여 가장 좋은 출력을 선택하는 '상위 k 정확도'와 달리 모델에서 하나의 출력만 생성하고 이를 실제 답변과 비교한다는 의미다. |
약인공 일반 지능(Weak General AI)에 대한 조건
로브너 은상을 수상할 수 있는 유형의 튜링 테스트를 안정적으로 통과할 수 있어야 합니다.
강력한 버전의 Winograd 스키마 챌린지(예: "Winogrande" 챌린지 또는 인간의 성능이 90% 이상인 유사한 데이터 세트)에서 90% 이상의 점수를 받을 수 있어야 합니다.
2015~2020년 표준 SAT 시험의 모든 수학 전 영역에서 75번째 백분위수(해당 연도의 인간 학생과 비교했을 때, 2016년에는 600점)를 얻을 수 있어야 하며, 시험 페이지의 이미지만 사용하고 훈련 데이터의 일부로 10회 미만의 SAT 시험이 포함되어야 합니다. (다른 수학 문제집에 대한 훈련은 SAT 시험과 명백히 구별되는 한 공정한 게임입니다.)
고전 아타리 게임 "몬테주마의 복수"(시각적 입력과 표준 컨트롤만 사용)를 학습하고 100시간 미만의 실시간 플레이에 해당하는 24개의 방을 모두 탐험할 수 있습니다(밀접하게 관련된 문제 참조).
딥 마인드
딥 마인드에서는 자율주행자동차처럼 5단계로 나누어 구분한다. 즉 딥 마인드의 분류법에 따르면 2023년 기준 AGI 1단계는 도달한 셈.
T-AGI
AGI에 가까워질수록 이를 이진 임계값으로 취급하는 것은 적절하지 않게 됩니다.
저는 인지 작업에서 '주어진 시간 t동안 작업을 수행하는 대부분의 인간 전문가를 능가하는 시스템'을 t-AGI라고 부릅니다.
1초 AGI는 퀴즈 질문에 빠르게 답하기, 물리학에 대한 기본적인 직관(예: "줄을 밀면 어떻게 될까?"), 이미지 속 물체 인식, 문장의 맞춤법 인식 등과 같은 작업에서 인간을 이겨야 합니다.
1분 AGI는 짧은 텍스트 구절이나 동영상에 대한 질문에 답하기, 상식적인 추론(예: 얀 르쿤의 기어 문제), 간단한 컴퓨터 작업(예: 포토샵을 사용하여 이미지 흐리게 처리하기), 팩트 체크 등과 같은 작업에서 인간을 이겨야 할 것입니다.
1시간 AGI는 시험 문제 풀기, 짧은 기사 또는 블로그 게시물 작성, 대부분의 사무직 업무(예: 환자 진단, 법률적 의견 제시), 치료, 온라인 심부름, 새로운 게임 규칙 학습 등과 같은 작업에서 인간을 이겨야 할 것입니다.
1일 AGI는 통찰력 있는 에세이 작성, 비즈니스 거래 협상, 새로운 게임 또는 새로운 소프트웨어 사용에 능숙해지기, 새로운 앱 개발, 과학 실험 수행, 과학 논문 검토, 책 요약 등과 같은 작업에서 인간을 이겨야 할 것입니다.
1개월 AGI는 중기 계획(예: 스타트업 설립)을 일관성 있게 수행하고, 대규모 프로젝트를 감독하고, 새로운 분야에 능숙해지고, 대규모 소프트웨어 애플리케이션(예: 새로운 OS)을 작성하고, 새로운 과학적 발견을 하는 등의 분야 등에서 인간을 능가해야 합니다.
1년 AGI는 기본적으로 모든 분야에서 인간을 이겨야 합니다. 페르마의 마지막 정리 증명과 같이 1년보다 훨씬 오래 걸리는 프로젝트도 있지만, 이러한 프로젝트는 대부분 하위 작업으로 분리할 수 있습니다.
인공 일반 지능이란 무엇인가요?
인공 일반 지능(AGI)은 인간과 유사한 지능과 스스로 학습할 수 있는 능력을 갖춘 소프트웨어를 만들려는 이론적 AI 연구 분야입니다. 목표는 소프트웨어가 반드시 교육을 받거나 개발되지 않은 작업을 수행할 수 있도록 하는 것입니다.
현재의 인공 지능(AI) 기술은 모두 사전 결정된 매개 변수 집합 내에서 작동합니다. 예를 들어 이미지 인식 및 생성에 대해 학습한 AI 모델은 웹 사이트를 구축할 수 없습니다. AGI는 자율적 자제력, 합리적인 수준의 자기 이해, 새로운 기술 학습 능력을 갖춘 AI 시스템을 개발하기 위한 이론적 추구입니다. 제작 당시에는 학습하지 못했던 설정과 상황의 복잡한 문제를 해결할 수 있습니다. 인간의 능력을 갖춘 AGI는 이론적 개념이자 연구 목표로 남아 있습니다.
인공 지능과 인공 일반 지능의 차이점은 무엇인가요?
수십 년 동안 AI 연구원들은 특정 작업에서 인간의 지능을 모방하는 수준까지 머신 인텔리전스를 크게 발전시킨 몇 가지 이정표를 도표로 작성했습니다. 예를 들어 AI 서머라이저는 기계 학습(ML) 모델을 사용하여 문서에서 중요한 포인트를 추출하고 이해하기 쉬운 요약을 생성합니다. 따라서 AI는 소프트웨어가 새롭고 어려운 작업을 인간 수준의 성능으로 해결할 수 있도록 하는 컴퓨터 과학 분야입니다.
반대로 AGI 시스템은 수동 개입 없이 인간과 같은 다양한 영역의 문제를 해결할 수 있습니다. AGI는 특정 범위로 제한되는 대신 스스로 학습하고 훈련받은 적이 없는 문제를 해결할 수 있습니다. 따라서 AGI는 일반화된 인간 인지 능력으로 복잡한 작업을 해결하는 완전한 인공 지능을 이론적으로 표현한 것입니다.
일부 컴퓨터 과학자들은 AGI가 인간의 이해력과 인지 능력을 갖춘 가상의 컴퓨터 프로그램이라고 믿습니다. AI 시스템은 이러한 이론에 대한 추가 교육 없이도 익숙하지 않은 작업을 처리하는 방법을 학습할 수 있습니다. 또는 오늘날 우리가 사용하는 AI 시스템이 동일한 도메인 내에서 관련 작업을 처리하려면 상당한 훈련이 필요합니다. 예를 들어, 의료 챗봇으로 일관되게 작동하려면 먼저 의료 데이터 세트를 사용하여 사전 훈련된 대형 언어 모델(LLM)을 미세 조정해야 합니다.
약한 AI와 강력한 AI
강력한 AI는 배경 지식이 거의 없어도 인간의 인지 수준에서 작업을 수행할 수 있는 완전한 인공 지능(AGI)입니다. 공상 과학 소설에서는 종종 강력한 AI를 영역 제한에 국한되지 않고 인간의 이해력을 갖춘 사고 기계로 묘사합니다.
반면, 약한 AI 또는 좁은 AI는 컴퓨팅 사양, 알고리즘 및 설계된 특정 작업으로 제한되는 AI 시스템입니다. 예를 들어, 이전 AI 모델은 메모리가 제한되어 실시간 데이터에만 의존하여 결정을 내렸습니다. 메모리 보존력이 더 좋은 새로운 생성형 AI 애플리케이션조차도 다른 도메인에 맞게 용도를 변경할 수 없기 때문에 약한 AI로 간주됩니다.
인공 일반 지능 연구에 대한 이론적 접근 방식이란 무엇인가요?
AGI를 달성하려면 오늘날 AI 모델을 지원하는 것보다 더 광범위한 기술, 데이터 및 상호 연결성이 필요합니다. 복잡한 인간 행동을 모방하는 AI를 만들려면 창의성, 지각, 학습 및 기억력이 필수적입니다. AI 전문가들은 AGI 연구를 추진하기 위한 몇 가지 방법을 제안했습니다.
상징적 방식
상징적 접근은 컴퓨터 시스템이 확장된 논리 네트워크를 통해 인간의 생각을 표현함으로써 AGI를 개발할 수 있다고 가정합니다. 로직 네트워크는 if-else 로직으로 물리적 객체를 상징하므로 AI 시스템이 더 높은 사고 수준에서 아이디어를 해석할 수 있습니다. 그러나 상징적 표현은 지각과 같은 하위 수준의 미묘한 인지 능력을 복제할 수 없습니다.
연결주의적 방식
연결주의적(또는 창발주의적) 접근법은 신경망 아키텍처를 사용하여 인간의 뇌 구조를 복제하는 데 중점을 둡니다. 뇌 뉴런은 인간이 외부 자극과 상호 작용할 때 전달 경로를 변경할 수 있습니다. 과학자들은 이러한 하위 상징적 접근법을 채택한 AI 모델이 인간과 유사한 지능을 복제하고 낮은 수준의 인지 능력을 보여줄 수 있기를 희망합니다. 대규모 언어 모델은 연결주의 방식을 사용하여 자연어를 이해하는 AI의 예입니다.
보편주의적 방식
보편주의적 접근 방식을 취하는 연구원은 계산 수준에서 AGI 복잡성을 해결하는 데 중점을 둡니다. 원구원들은 실용적인 AGI 시스템으로 용도를 변경할 수 있는 이론적 솔루션을 공식화하려고 시도합니다.
전체 유기체 아키텍처
전체 유기체 아키텍처 접근법에는 AI 모델을 인체의 물리적 표현과 통합하는 것이 포함됩니다. 이 이론을 지지하는 과학자들은 시스템이 물리적 상호작용을 통해 학습할 때만 AGI를 달성할 수 있다고 믿습니다.
하이브리드
하이브리드 접근법은 인간의 생각을 표현하는 상징적 방법과 하위 상징적 방법을 연구하여 단일 접근 방식을 넘어서는 결과를 달성합니다. AI 연구원은 AGI를 개발하기 위해 알려진 다양한 원리와 방법을 동화하려고 시도할 수 있습니다.
인공 일반 지능 연구를 주도하는 기술은 무엇인가요?
AGI는 연구자들에게 여전히 먼 목표입니다. AGI 시스템 구축을 위한 노력은 현재 진행 중이며 새로운 개발로 인해 가속화되고 있습니다. 다음 섹션에서는 새로운 기술에 대해 설명합니다.
딥 러닝
딥 러닝은 원시 데이터에서 복잡한 관계를 추출하고 이해하기 위해 여러 은닉 계층이 있는 신경망을 훈련하는 데 중점을 둔 AI 분야입니다. AI 전문가는 딥 러닝을 사용하여 텍스트, 오디오, 이미지, 비디오 및 기타 정보 유형을 이해할 수 있는 시스템을 구축합니다. 예를 들어 개발자는 Amazon SageMaker를 사용하여 사물 인터넷(IoT) 및 모바일 디바이스용 경량 딥 러닝 모델을 구축합니다.
생성형 AI
생성형 인공 지능(생성형 AI)은 AI 시스템이 학습된 지식을 바탕으로 독특하고 사실적인 콘텐츠를 생성할 수 있는 딥 러닝의 하위 집합입니다. 생성형 AI 모델은 대규모 데이터 세트로 학습하므로 인간의 창조물과 자연스럽게 유사한 텍스트, 오디오 또는 비주얼로 인간의 쿼리에 응답할 수 있습니다. 예를 들어 AI21 Labs, Anthropic, Cohere, Meta의 LLM은 조직에서 복잡한 작업을 해결하는 데 사용할 수 있는 생성형 AI 알고리즘입니다. 소프트웨어 팀은 Amazon Bedrock을 사용하여 서버를 프로비저닝하지 않고도 클라우드에 이러한 모델을 빠르게 배포합니다.
NLP
자연어 처리(NLP)는 컴퓨터 시스템이 인간의 언어를 이해하고 생성할 수 있도록 하는 AI의 한 분야입니다. NLP 시스템은 계산 언어학 및 기계 학습 기술을 사용하여 언어 데이터를 토큰이라는 단순한 표현으로 변환하고 컨텍스트 관계를 이해합니다. 예를 들어 Amazon Lex는 조직에서 대화형 챗봇을 구축할 수 있게 해주는 NLP 엔진입니다.
컴퓨터 비전
컴퓨터 비전은 시스템이 시각 데이터에서 공간 정보를 추출, 분석 및 이해할 수 있도록 하는 기술입니다. 자율주행차는 컴퓨터 비전 모델을 사용하여 카메라의 실시간 피드를 분석하고 장애물을 피해 차량을 안전하게 주행합니다. 딥 러닝 기술을 통해 컴퓨터 비전 시스템은 대규모 객체 인식, 분류, 모니터링 및 기타 이미지 처리 작업을 자동화할 수 있습니다. 예를 들어 엔지니어는 Amazon Rekognition을 사용하여 다양한 컴퓨터 비전 애플리케이션의 이미지 분석을 자동화합니다.
로보틱스
로보틱스는 조직이 물리적 기동을 자동으로 수행하는 기계 시스템을 구축할 수 있는 엔지니어링 분야입니다. AGI에서는 로보틱스 시스템을 통해 기계 지능이 물리적으로 나타날 수 있습니다. AGI 시스템에 필요한 감각 지각 및 물리적 조작 기능을 도입하는 데 중추적인 역할을 합니다. 예를 들어 로봇 팔에 AGI를 내장하면 인간처럼 팔이 오렌지를 감지하고 잡고 껍질을 벗길 수 있습니다. 엔지니어링 팀은 AGI를 연구할 때 AWS RoboMaker를 사용하여 로봇 시스템을 조립하기 전에 가상으로 시뮬레이션합니다.
인공 일반 지능 연구의 과제에는 무엇이 있나요?
컴퓨터 과학자들은 AGI를 개발할 때 다음과 같은 몇 가지 문제에 직면합니다.
연결 만들기
현재 AI 모델은 특정 도메인으로 제한되며 도메인 간 연결을 만들 수 없습니다. 그러나 인간은 한 영역의 지식과 경험을 다른 영역에 적용할 수 있습니다. 예를 들어, 교육 이론을 게임 디자인에 적용하여 매력적인 학습 경험을 생성합니다. 인간은 이론 교육에서 배운 내용을 실제 상황에 적용할 수도 있습니다. 그러나 딥 러닝 모델이 익숙하지 않은 데이터를 안정적으로 다루려면 특정 데이터 세트를 사용한 상당한 훈련이 필요합니다.
감성 지능
딥 러닝 모델은 AGI의 가능성을 암시하지만 인간이 가진 진정한 창의성을 아직 입증하지는 못했습니다. 창의성에는 신경망 아키텍처가 아직 복제할 수 없는 감정적 사고가 필요합니다. 예를 들어 인간은 감정적으로 느끼는 것을 기반으로 대화에 반응하지만 NLP 모델은 훈련에 기반한 언어 데이터 세트와 패턴을 기반으로 텍스트 출력을 생성합니다.
감각적 지각
AGI는 외부 환경과 물리적으로 상호작용하는 AI 시스템을 필요로 합니다. 로봇의 능력 외에도 시스템은 인간처럼 세상을 인식해야 합니다. 기존 컴퓨터 기술이 인간처럼 모양, 색, 맛, 냄새, 소리를 정확하게 구별하려면 더 발전해야 합니다.