강의 1-2: AGI 개념과 그 논쟁

3.1 좁은 AI와 AGI

오늘날 실제로 존재하는 모든 인공지능은 **좁은 AI(narrow AI)**입니다. 이는 특정 과제 영역에서 작동하도록 설계된 시스템을 뜻합니다. 최근의 대규모 언어모델은 매우 넓은 범위의 언어 과제를 처리하기 때문에 '좁다'는 표현이 어색하게 느껴질 수 있으나, 여전히 훈련된 분포와 과제 유형에 결박되어 있다는 점에서 좁은 AI로 분류됩니다.

**AGI(Artificial General Intelligence, 범용 인공지능)**는 특정 영역에 국한되지 않고, 인간이 수행할 수 있는 지적 과제 전반을 학습하고 수행할 수 있는 시스템을 가리킵니다. 중요한 것은 AGI가 현존하는 기술이 아니라 가설적 목표라는 사실입니다.

주의할 점: AGI에는 학계가 합의한 단일 정의가 없습니다. 어떤 정의는 "대부분의 경제적으로 가치 있는 일을 인간 수준으로 수행하는 시스템"으로, 어떤 정의는 "새로운 영역을 스스로 학습하는 능력"으로, 어떤 정의는 "인간과 같은 방식으로 이해하는 시스템"으로 규정합니다. 정의가 다르면 "AGI가 언제 오는가"라는 질문의 답도 완전히 달라집니다. 정의를 확인하지 않고 시점 논쟁에 참여하는 것은 무의미합니다.

도표: 세 층위의 AI 개념

이 세 층위를 뒤섞는 것이 대중적 AI 담론의 가장 흔한 혼란입니다. 실재하는 좁은 AI의 문제(편향·노동·개인정보)를 사변적인 초지능 시나리오로 대체해 논하면, 지금 당장의 윤리적 책임을 미래의 공상으로 회피하게 됩니다. 반대로 초지능 논의를 전부 공상으로 치부하면, 능력 발전이 실제로 제기하는 통제 문제를 놓칩니다.

3.2 논쟁의 세 진영

이 과목의 편집 원칙에 따라, 각 입장을 그 지지자가 인정할 만한 방식으로 서술합니다.

① 낙관론(임박론) 논거: 최근 십수 년간 모델의 능력은 계산 자원과 데이터의 증가에 비례해 예측 가능하게 향상되어 왔다. 과거에 "기계는 결코 못 할 것"이라 여겨진 과제들(자연어 대화, 코드 작성, 시각 인식, 수학 문제)이 차례로 무너졌다. 이 추세가 이어진다면 AGI는 수년에서 수십 년 내에 도달 가능하다.

② 회의론(범주적 한계론) 논거: 현재 방식은 통계적 상관관계를 학습할 뿐 인과 관계나 세계 모델을 갖지 않는다. 능력의 향상은 인상적이지만 양적 확대이지 종류의 전환이 아니다. 언어의 유창성이 곧 이해라는 증거는 없으며, 체현되지 않은 시스템이 세계를 이해한다는 주장은 검증되지 않았다. AGI는 현재 접근의 연장선상에 있지 않다.

③ 신중론(불확실성 강조) 논거: 우리는 인간 지능이 무엇인지조차 충분히 알지 못하므로, 그것의 재현 가능성이나 시점에 대해 강한 예측을 할 근거가 부족하다. 그러나 불확실하다는 것이 안전하다는 뜻은 아니다. 낮은 확률의 큰 위험은 미리 다루어야 한다. 따라서 예측 경쟁보다 거버넌스와 안전 연구가 우선이다.

도식: 세 진영의 지형

        "AGI는 온다"                          "AGI는 오지 않는다"
             ▲                                        ▲
             │                                        │
      ① 낙관론(임박론)                        ② 회의론(범주적 한계론)
      · 규모 확장의 추세                       · 상관 ≠ 인과
      · 예측된 능력 향상                       · 유창성 ≠ 이해
      · 반복된 "못 할 것"의 붕괴               · 체현 없는 세계 이해의 의문
             │                                        │
             └──────────────┬─────────────────────────┘
                            ▼
                   ③ 신중론(불확실성)
                   · 인간 지능의 정의 자체가 미결
                   · 예측 불가 ≠ 안전
                   · 우선순위: 안전·거버넌스 (→ 10장)

신학적 논평: 이 과정은 세 입장 중 어느 하나를 교리로 채택하지 않습니다. AGI의 도래 시점은 신학이 판정할 문제가 아니라 경험적 문제이기 때문입니다. 다만 이 과정은 다음을 주장합니다. AGI가 오든 오지 않든, 인간의 존엄은 인간의 지적 능력이 최고라는 사실에 근거하지 않습니다. 만약 인간의 존엄이 '가장 똑똑함'에 근거한다면, 그 존엄은 더 똑똑한 무엇이 등장하는 순간 무너질 것입니다. 기독교 인간론은 그런 취약한 토대 위에 서 있지 않습니다(2장).

3.3 능력·이해·의도: 세 층위의 구분

AI에 관한 주장을 분석하는 가장 유용한 도구는 다음 세 층위의 구분입니다.

대중 담론의 오류 대부분은 이 세 층위를 혼동하는 데서 나옵니다. "AI가 시를 잘 쓴다"(능력)에서 "AI가 아름다움을 안다"(이해)로, 다시 "AI가 인정받고 싶어 한다"(의도)로 비약하는 것입니다.

주의: 의도가 없다고 위험이 없는 것은 아닙니다. 시스템이 주관적 욕망을 갖지 않아도, 잘못 설정된 목표를 강력하게 최적화하는 것만으로 심각한 해악이 발생할 수 있습니다. 이것이 10장에서 다룰 '정렬(alignment)' 문제의 핵심입니다. 악의 없는 파괴는 신학적으로 낯선 개념이 아닙니다. 성경은 죄를 의지적 반역으로만이 아니라 **빗나감(hamartia)**으로도 묘사합니다.

3.4 AGI 담론의 종교적 구조

서론에서 언급한 세 번째 접점이 여기서 구체화됩니다. AGI 담론을 주의 깊게 들으면, 그 서사 구조가 놀랍도록 종교적임을 발견하게 됩니다.

이 대조표는 AGI 담론을 조롱하기 위한 것이 아닙니다. 오히려 왜 이 담론이 그토록 강한 정서적 흡인력을 갖는지를 설명합니다. 그것은 인간의 근원적 종교적 갈망 — 죽음을 이기고, 고통을 끝내고, 완성에 이르려는 갈망 — 을 기술의 언어로 말하고 있기 때문입니다. 아우구스티누스의 통찰대로, 인간의 마음은 안식할 곳을 찾을 때까지 쉬지 못합니다. 문제는 그 갈망 자체가 아니라, 그 갈망이 향하는 대상입니다.

이 대조는 8장(트랜스휴머니즘)과 17장(특이점)에서 본격적으로 전개됩니다.

3.5 목회적 착지점

성도가 "AGI가 곧 온대요, 무섭습니다"라고 말할 때 목회자의 응답은 세 단계여야 합니다.

1. 개념을 정리해 준다. "지금 있는 것은 좁은 AI입니다. AGI는 아직 목표이지 현실이 아닙니다."
2. 불확실성을 정직하게 인정한다. "언제 올지, 올지 안 올지는 전문가들도 의견이 갈립니다. 저도 모릅니다."
3. 신앙의 토대를 재확인한다. "그러나 그것이 오든 오지 않든, 당신이 하나님께 소중한 이유는 당신이 똑똑해서가 아닙니다."

세 번째가 목회의 핵심입니다. 기술 예측은 목회자의 전문 영역이 아니지만, 정체성의 토대를 재확인시키는 일은 정확히 목회자의 일입니다.

4-1. AI 담론을 분석하는 두 축

4-2. AI 관련 주장 분석 체크리스트