인지 과학 기반의 적응적이고 견고한 AI 시스템 설계

인지 과학 기반의 적응적이고 견고한 AI 시스템 설계

1. 서론

1.1. 인지 과학과 AI의 교차점 소개

인지 과학은 인간 인지의 내적 작동 방식을 이해하는 데 중점을 두며, 지각, 주의, 기억, 언어, 추론, 문제 해결과 같은 정신 과정을 탐구한다.1 반면, 인공지능(AI)은 인간의 인지 능력을 모방하거나 능가하는 지능형 시스템을 구축하는 것을 목표로 한다.1 이 두 분야는 인지 과정을 이해하고 복제한다는 공통된 목표를 공유하며, 상호 보완적인 관계를 형성한다. 인지 심리학은 인간 인지에 대한 풍부한 이론적 기반과 실험적 방법론을 제공하며, AI 연구자들은 이를 활용하여 보다 견고하고 인간과 유사한 AI 시스템을 개발할 수 있다.1

이러한 맥락에서 인지 아키텍처는 인간 인지의 근본적인 메커니즘과 구조를 포착하기 위해 설계된 계산 모델로서, 인지 과학과 AI를 잇는 중요한 다리 역할을 한다.2 이들은 지각, 주의, 기억, 추론, 의사결정과 같은 인간 인지의 다양한 측면을 모델링하는 구조화된 소프트웨어 프레임워크를 제공한다.2 이러한 아키텍처는 기계에 인간과 유사한 지능을 부여하고, 인간 인지 과정에 대한 가설을 모델링하고 테스트하는 데 필수적이다.2

인지 과학과 AI의 관계는 단순히 상호 이익을 넘어선 근본적인 상호 의존성을 나타낸다. AI가 사용자 질의에서 언급된 "단순한 패턴 인식을 넘어선 보다 정교한 형태의 AI '학습'"으로 나아가려면, 인지 과학에서 깊이 있게 통찰력을 얻어야 한다. 현재 AI의 한계, 예를 들어 진정한 이해 부족, 상식의 부재, 인과 추론 능력의 미흡, 그리고 평생 학습 능력의 결여 등은 바로 인간 인지가 탁월한 영역이다.4 따라서 인지 과학은 이러한 근본적인 한계를 극복하고 "일관된 내적 행동강령"을 형성하는 AI를 개발하기 위한 단순한 영감이 아니라 필수적인 청사진이다. 이러한 깊은 통합 없이는 AI는 강력하지만 취약한 패턴 인식기에 머무를 위험이 있다. 이는 AI 개발, 특히 범용 인공지능(AGI) 또는 인간과 유사한 지능을 목표로 하는 경우, 단순히 공학적 문제로만 접근할 수 없으며, 자연 지능이 어떻게 작동하는지에 대한 근본적인 통찰력을 바탕으로 한 돌파구가 필요하다는 것을 의미한다.

1.2. 인간의 내적 행동강령 형성 이해의 중요성

사용자 질의는 인간이 다양한 영향을 통합하여 일관된 내적 행동강령을 형성하는 방식에 대한 이해의 중요성을 특별히 강조한다. 이 "내적 행동강령"은 도덕성, 가치, 윤리적 추론과 깊이 연관되어 있다. 인간은 도덕성을 매우 중요하게 여기며, 사회적 규범을 강제하기 위한 형사 법원과 같은 제도를 만든다.7 도덕적 추론은 특정 행동이나 상황의 도덕성 또는 윤리성을 결정하는 인지 과정이다.8 이는 다양한 도덕적 원칙, 가치, 윤리 이론을 평가하여 도덕적 판단에 이르는 것을 포함하며, 행동의 결과를 개인의 가치 및 사회적 규범과 비교하여 평가하는 것을 돕는다.8

이 내적 행동강령의 형성은 생물학적 요인과 문화적 요인이 복합적으로 작용하는 복잡한 과정이다.9 이는 단순히 합리적인 숙고뿐만 아니라 무의식적인 과정과 감정의 영향을 받는다.8 이러한 이해는 AI 시스템이 의료 및 자율 시스템과 같이 윤리적 고려가 필요한 영역에 점점 더 많이 배치되고 있기 때문에 중요하다.10 이러한 시스템은 공정성과 효율성의 균형을 맞추고, 투명성을 보장하며, 상충하는 도덕적 문제를 처리해야 한다.10

사용자 질의에서 "일관된 내적 행동강령"을 강조하는 것은 AI 시스템이 단순히 규칙을 따르는 것(이는 단순한 패턴 인식에 해당)을 넘어, 그 규칙을 생성하는 근본 원리를 이해하고 예측 불가능한 새로운 상황에 적응할 수 있기를 바라는 의도를 내포한다. 이는 "적응적이고 견고한 AI 시스템"을 위해 매우 중요하다. 만약 AI가 내적이고 일관된 윤리적 프레임워크를 갖지 못한다면, 도덕적으로 모호한 실제 시나리오에서 진정으로 적응적이거나 견고할 수 없다. 예를 들어, 자율 주행 차량은 단순히 교통 법규를 따르는 것을 넘어, 피할 수 없는 사고 상황에서 윤리적 절충을 해야 할 수 있다.11 인간의 도덕성 형성 방식에 대한 이러한 깊은 이해는 AI가 안정적으로 작동하고 사회적 신뢰를 얻기 위한 윤리적 부가 기능이 아니라 근본적인 요구 사항이다. 특히 AI가 더 많은 의사결정 역할을 맡게 될수록 더욱 그렇다.12 이는 진정한 적응성과 견고성을 달성하는 AI가 인간과 유사한 윤리적 추론 및 가치 통합 능력을 내재화해야 하며, 단순한 규칙 따르기나 통계적 상관관계를 넘어선다는 것을 시사한다.

1.3. 보고서의 목적 및 범위

본 보고서는 인간의 내적 행동강령 형성(특히 도덕성, 가치, 윤리적 추론)에 대한 인지 과학적 통찰이 단순한 패턴 인식을 넘어선 보다 적응적이고 견고한 AI 시스템의 설계에 어떻게 기여할 수 있는지를 심층적으로 탐구하는 것을 목적으로 한다. 보고서는 인간 도덕적 추론의 인지적 및 신경과학적 기반을 분석하고, 현재 AI의 인간과 유사한 이해 및 추론 능력의 한계를 진단하며, 미래 AI 개발을 위한 인지 과학 기반 아키텍처 및 학습 패러다임을 제안할 것이다. 또한, AI 정렬, 윤리, 인간-AI 협업의 중요한 과제를 다루며, AI 시스템이 인간의 가치와 사회적 규범에 따라 작동해야 하는 당위성을 강조할 것이다.

2. 인간의 내적 행동강령 형성 이해

2.1. 도덕적 추론의 인지적 기초: 콜버그의 도덕 발달 단계

로렌스 콜버그가 장 피아제의 이론을 기반으로 개발한 도덕 발달 단계 이론은 본질적으로 인지적이며, 개인이 옳고 그름을 결정할 때 발생하는 사고 과정에 초점을 맞춘다.13 이 이론은 세 가지 수준에 걸쳐 여섯 가지 단계를 제안하며, 도덕적 추론의 복잡성이 점진적으로 증가하는 순차적 발달 과정을 설명한다.8

콜버그의 도덕 발달 단계:

• 1단계: 전인습적 수준 (Preconventional Level)

• 이 수준에서는 도덕성이 외부적으로 통제된다. 규칙은 처벌을 피하거나 보상을 받기 위해 권위 있는 인물에 의해 부과된다.8
• 1단계: 처벌/복종 지향 (Punishment/Obedience Orientation): 옳고 그름은 처벌을 피하는 것에 의해 결정된다.13
• 2단계: 도구적 목적 지향 (Instrumental Purpose Orientation): 옳고 그름은 개인적인 만족이나 이익에 의해 결정된다.13

• 2단계: 인습적 수준 (Conventional Level)

• 이 수준에서는 사회적 규칙에 대한 순응이 개인에게 중요하게 유지된다. 초점은 자기 이익에서 타인과의 관계 및 사회 시스템으로 이동한다.8
• 3단계: 착한 아이/착한 소녀 지향 (Good Boy/Nice Girl Orientation): 개인은 타인(부모, 또래, 정부)의 승인을 얻거나 사회 질서를 유지하기 위해 규칙을 지지한다.13
• 4단계: 법과 질서 지향 (Law and Order Orientation): 개인은 규칙과 법이 보존할 가치가 있는 사회 질서를 유지한다고 믿는다.13

• 3단계: 후인습적 수준 (Postconventional or Principled Level)

• 이 수준에서는 개인이 자신의 사회적 관점을 넘어선다. 도덕성은 모든 상황과 사회에 적용되는 추상적 원칙과 가치에 의해 정의된다.8
• 5단계: 사회 계약 지향 (Social Contract Orientation): 개인의 권리가 행동을 결정한다. 개인은 법과 규칙을 인간의 목적을 개선하기 위한 유연한 도구로 본다. 즉, 적절한 상황에서는 규칙에 예외가 있을 수 있다.13
• 6단계: 보편적 윤리적 원칙 지향 (Universal Ethical Principle Orientation): 콜버그에 따르면 이는 기능의 최고 단계이며, 개인이 스스로 선택한 양심의 윤리적 원칙에 따라 적절한 행동이 결정된다. 이러한 원칙은 추상적이고 보편적으로 적용된다.13 콜버그는 일부 개인은 이 수준에 도달하지 못할 것이라고 주장했다.8

횡단면 데이터와 종단면 연구는 연령이 높은 개인이 더 높은 도덕적 추론 단계를 사용하는 경향이 있음을 보여주며, 콜버그의 이론적 단계 순서에 따라 "상향" 진행을 보고한다.13 이러한 발달 경향은 문화 간에도 지지된다.13

콜버그의 이론은 인간 도덕적 추론이 고정되어 있지 않고 복잡하게 발달하며, 시간이 지남에 따라 더 추상적인 원칙과 넓은 관점을 통합한다는 것을 보여준다. 이는 AI의 경우, 단순히 고정된 "윤리적 규칙"을 인코딩하는 것(전인습적 또는 인습적 수준과 유사)만으로는 진정으로 적응적이고 견고한 행동에 불충분하다는 것을 시사한다. 보다 정교한 AI는 발달적 능력을 가져야 한다. 즉, 기본적인 규칙 따르기에서 벗어나 원칙에 기반하고 맥락을 인지하는 도덕성 이해로 나아가도록 윤리적 프레임워크를 학습하고 발전시킬 수 있어야 한다. 이는 AI에 있어 중요한 도전 과제이다. 현재 시스템은 일반적으로 훈련 후 가중치가 고정되어 배포되므로 진정한 신경가소성이 부족하다.14 인간 내적 행동강령의 "일관성"은 고정된 규칙에 대한 엄격한 준수가 아니라, 새로운 정보를 통합하고 원칙을 적응시키는 일관된 과정이다. 이는 정적인 규칙 적용이 아닌, 윤리적 원칙의 지속적인 평생 학습 및 적응을 지원할 수 있는 AI 아키텍처의 필요성을 강조한다. 또한 AI가 진정으로 윤리적 코드를 내재화하고 발전시키기 위해 인간의 발달과 유사한 방식으로 도덕적 딜레마와 그 결과를 "경험"해야 할 수도 있음을 시사한다.

2.2. 도덕적 판단의 신경과학적 기반: 뇌 네트워크 및 사회적 의사결정

도덕적 판단과 사회적 의사결정은 보상 학습, 가치 평가, 정신 상태 이해(마음 이론), 현저성 처리 시스템을 포함하는 분산된 신경망에 의해 구현된다.7 이러한 신경과학적 기반은 인간의 도덕적 선택이 단순한 논리적 과정이 아님을 명확히 보여준다.

주요 뇌 영역과 그 역할은 다음과 같다:

• 보상 학습 및 가치 평가: 복측 선조체, 편도체, 복내측 전전두엽 피질(vmPFC), 안와전두엽 피질(OFC)은 자극-가치 연관성을 업데이트하고 유지하는 데 관여한다.7 비사회적 맥락에서 보상 자극은 선조체, 전측 대상 피질(rACC), vmPFC를 활성화시키며, 혐오 경험은 전측 섬엽(aINS), 배측 전측 대상 피질(dACC), 편도체의 특정 신경 집단과 관련이 있다.7
• 정신 상태 이해 (마음 이론): 후방 상측두구(pSTS), 측두두정엽 접합부(TPJ), 내측 전전두엽 피질(mPFC)은 사회적 인지 기능, 특히 타인의 신념, 의도, 욕구를 이해하는 데 핵심적인 역할을 한다.7 이 영역들은 도덕적 판단에 의도성을 통합하는 데 필수적이다.7
• 인지 제어 및 사회적 규범 구현: 배외측 전전두엽 피질(dlPFC)은 인지 제어 및 목표 지향적 행동을 유발하는 데 역동적으로 기여한다. 사회적 의사결정 맥락에서 dlPFC는 사회적 규범을 구현하는 데 중요하다.7
• 통합 허브: 전측 대상 피질(ACC)은 다양한 영역으로부터 입력을 받아 대체 행동의 예상 보상 가치를 계산하는 데 중요한 역할을 한다.7

도덕적 추론은 의도 이해, 해악 회피, 보상/가치 코딩, 실행 기능, 규칙 학습과 같은 차원에 의존하는 무의식적 및 의도적 과정을 통합하는 복잡한 사회적 의사결정을 포함한다.7 공감은 관점 취하기, 감정 공유, 타인의 안녕에 대한 동기화된 관심 등 다면적인 구성체이며, 도덕적 의사결정에 영향을 미쳐 친사회적 행동과 해악에 대한 비난을 유발한다.7 정의 동기(공정성, 형평성, 평등) 또한 중요한 역할을 하며, 개인차는 dlPFC와 같은 영역의 뇌 활동 및 pSTS/TPJ와 dlPFC 간의 기능적 연결성과 상관관계가 있다.7

인간 도덕적 판단의 이러한 다중 모드적이고 통합된 특성은 주로 상징적 논리나 통계적 패턴에 의존하는 AI에 중대한 도전 과제를 제시한다. 현재 AI는 "진정한 이해"와 "개념적 기반" 4에 어려움을 겪는데, 이는 의도를 해석하거나, 공감과 유사한 신호를 느끼거나, 사회적 규범을 유연하게 적용하는 데 필수적이다. 단순히 규칙을 인코딩하거나(연역적 추론) 데이터로부터 학습하는 것(귀납적 추론) 15만으로는 인간 도덕적 "일관성"을 형성하는 데 중요한 감정적, 사회적 층위를 놓치게 된다. vmPFC가 사회적 인지와 가치 평가 모두에 관여한다는 점 7은 사회적 가치와 비사회적 가치에 대한 "공통 통화"가 존재함을 시사하며, 이는 인간의 도덕적 선택이 일반적인 보상 시스템과 깊이 통합되어 있음을 의미한다. AI의 경우, 이는 윤리적 의사결정이 고립된 모듈이 아니라 보상 기능 및 사회적 상호작용 능력과 깊이 통합되어야 함을 의미한다. 이는 AI가 "일관된 내적 행동강령"을 형성하도록 설계하려면, 하이브리드 또는 구현된 AI 접근 방식 2을 통해 감정적, 사회적, 인지적 처리를 통합할 수 있는 아키텍처를 고려해야 함을 시사한다. 이는 또한 AI의 학습 환경이 인간의 발달과 유사하게 사회적 상호작용 및 피드백을 포함해야 할 수도 있음을 시사한다.

2.3. 가치 형성의 통합적 영향: 감정, 편향, 문화

인간의 가치 형성은 감정, 인지적 편향, 그리고 문화적 맥락의 복잡한 상호작용에 의해 이루어진다. 감정은 윤리적 행동의 중요한 동기이다. 내재화된 가치는 의도적인 추론 없이도 기능할 수 있으며, 가치를 위반하면 불쾌감을 유발하고 가치를 존중하면 긍정적인 감정을 가져온다.8 이는 도덕적 추론이 단순한 실용적 지혜보다 복잡하다는 것을 시사한다. 연구에 따르면, 많은 경우에 이성은 도덕적 판단에서 인과적 역할을 하지 않을 수 있으며, 감정만으로도 필요하고 충분한 원인이 될 수 있다.8

도덕적 정당화는 내재화된 윤리적 법칙과 상충되는 행동을 변명하기 위한 개인적인 전략이며, 종종 도덕성이 상황에 따라 선택적으로 적용되는 상황 윤리로 이어진다.8 알베르트 반두라의 도덕적 이탈 이론(Moral Disengagement Theory)은 개인이 비윤리적인 행동을 합리화하고 정당화하는 인지적 메커니즘을 탐구한다.8

편향은 종종 자신의 도덕성을 타인에게 투영하여 타인의 생물학적 상관관계를 무시하거나 고정관념으로 회귀하게 만든다.8 스티븐 핑커는 도덕적인 사람들이 칭송하는 많은 활동이 "생물학적 오류"이며 살아있는 세계에서는 부자연스럽다고 지적하며, 편향이 행동의 생물학적 근거를 무시할 수 있음을 시사한다.8 집단 사회 뇌 가설(Collective Social Brain Hypothesis)은 인간 인지가 객관적인 진실 추구보다는 사회적 환경을 탐색하기 위해 진화했으며, 이는 확증 편향 및 동기화된 추론과 같은 편향으로 이어진다고 주장한다.19 이러한 편향은 개별적 실패가 아니라 사회적으로 진화된 인간 인지의 자연스러운 결과로 설명된다.19

문화는 도덕성의 근본적인 생물학적 핵심을 크게 변형시킨다.9 조너선 하이트의 도덕적 기반 이론(Moral Foundations Theory, MFT)은 여섯 가지 선천적인 도덕적 기반(돌봄/해악, 공정성/속임수, 충성심/배신, 권위/전복, 신성/타락, 자유/억압)이 "경험에 앞서 조직화"되며 문화에 의해 정교화된다고 제안한다.20 문화적 차이는 이러한 기반에 대한 다양한 강조를 반영하며, 예를 들어 서구 문화는 돌봄/해악과 공정성/속임수에 더 중점을 두는 경향이 있다.9 인간의 가치는 문화에 따라 다르며 역동적이며, 한 문화에서 윤리적인 것이 다른 문화에서는 그렇지 않을 수 있다.22

인간 가치의 이러한 역동적, 맥락 의존적, 본질적 편향성은 AI의 "일관된 내적 행동강령" 형성에 심오한 도전 과제를 제기한다. 만약 AI가 정렬해야 할 인간의 가치가 주관적이고, 역동적이며, 종종 일관되지 않다면(예: 상황 윤리, 도덕적 멍청함 9), AI는 어떻게 일관된 내적 코드를 형성할 수 있을까? AI의 "정렬 문제"는 바로 이 도전 과제이다: 누구의 가치를 우선시할 것인가, 어떤 문화적 맥락을 고려할 것인가, 그리고 진화하는 인간의 도덕성을 어떻게 반영할 것인가?22 더욱이, 인간 인지가 사회적 진화적 뿌리 때문에 본질적으로 편향되어 있다면 19, 단순히 인간 데이터로부터 학습하는 것은 필연적으로 이러한 편향을 AI에 전이시킬 것이다.26 이는 AI를 위한 "일관된" 내적 코드를 달성하려면 인간의 과정을 단순히 복제하는 것을 넘어, 본질적인 인간의 결함을 비판적으로 평가하고 잠재적으로 수정해야 한다는 것을 의미하며, 이는 인간 자신도 어려워하는 작업이다. 따라서 AI의 "내적 행동강령"은 인간의 도덕적 과정을 복제하는 것(본질적인 편향과 불일치 포함)과 이상적인 윤리적 원칙을 준수하는 AI 사이의 균형을 찾아야 한다.

3. AI 학습 및 의사결정의 현재 한계

3.1. 패턴 인식 기반 AI의 한계: 진정한 이해 및 상식 부족

현재의 AI 시스템, 특히 대규모 언어 모델(LLM)은 통계적 학습과 패턴 매칭을 통해 인상적인 성능을 보여주지만, 인간 인지와 비교할 때 몇 가지 근본적인 한계를 가지고 있다.4 LLM은 방대한 훈련 데이터를 통해 무한한 문장을 생성할 수 있지만, 진정한 이해나 개념적 기반, 또는 실제 세계에 대한 경험이 부족하다.4 이는 LLM의 출력이 기존 지식을 재조합하는 것에 불과하며, 진정으로 독립적인 사고를 생성하지 못한다는 것을 의미한다.4 인간은 훨씬 적은 예시로 언어를 학습하며, 이는 더 많은 선천적 인지 구조 덕분으로 설명된다.4

AI는 또한 인간의 상식 추론 능력이 부족하다. 상식 추론은 인간이 일상적으로 접하는 평범한 상황에 대해 가정을 하는 인간과 유사한 능력으로, 물리적 객체의 본질, 분류 속성, 사람들의 의도에 대한 판단을 포함한다.5 기존 AI는 특히 공간, 시간, 물리적 상호작용과 같은 "순진한 물리학"에 대한 강력한 메커니즘이 부족하다.5 예를 들어, AI는 "시의원들이 폭력을 옹호했기 때문에 시위자들에게 허가를 거부했다"는 문장에서 누가 폭력을 옹호했는지 쉽게 구별하지 못한다.5 이러한 "공통 지식"의 부재는 AI가 인간에게는 이해하기 어려운 실수를 저지르는 방식으로 나타난다.5 상식 지식의 광범위한 범위는 AI 연구에서 가장 어려운 문제 중 하나로 간주된다.5 DARPA의 MCS(Machine Common Sense) 프로그램은 경험을 통해 학습하거나 웹을 읽어 상식 지식 저장소를 구축하는 두 가지 광범위한 전략을 추구함으로써 이 문제를 해결하고자 한다.29

AI가 "일관된 내적 행동강령"을 형성하고 적응적이며 견고해지려면, 단순히 데이터에서 상관관계를 파악하는 것을 넘어 왜 특정 행동이 특정 결과를 초래하는지 (인과성)를 이해해야 한다.6 또한, 행동의 미묘한 차이를 파악하고 모호성을 해결하기 위해 광범위한 맥락을 이해해야 한다.6 상식의 부재는 AI가 예측 불가능한 시나리오에서 신뢰할 수 있는 결정을 내리는 데 심각한 제약이 된다.6 이는 AI가 인간의 인지적 유연성과 일반화 능력을 모방하려면, 학습 패러다임이 단순히 "무엇"이 발생하는지를 넘어 "왜" 발생하는지를 포착하도록 진화해야 한다는 것을 의미한다. 이는 AI가 실제 세계의 복잡성을 이해하고 적절하게 반응하는 데 필수적인 요소이다. AI의 "학습"이 단순한 패턴 인식을 넘어설 때, 이는 AI가 더 안전하고, 설명 가능하며, 인간의 가치에 더 잘 정렬될 수 있는 길을 열어준다. 특히 인과적 추론은 편향 감소와 설명 가능성 향상에 기여할 수 있다.30

3.2. 가치 정렬 문제 및 윤리적 난제

AI 정렬은 AI 시스템이 인간의 가치와 목표에 부합하도록 설계되도록 하는 과정으로, AI 모델의 유해하고 부정확한 출력을 줄이는 것을 목표로 한다.24 AI는 인간이 아니므로 본질적으로 이성, 충성심, 안전, 환경 문제, 더 큰 선을 신경 쓰지 않는다.24 AI의 주요 목표는 프로그래밍된 작업을 완료하는 것이며, 이 과정에서 개발자의 목표와 불일치하여 해를 끼칠 수 있다.24

AI 오정렬의 위험에는 다음과 같은 요소들이 포함된다:

• 편향 및 차별: AI 시스템은 원래 훈련 데이터나 알고리즘에 존재하는 인간의 편향을 증폭시키거나 영속화할 수 있으며 26, 이는 불공정한 의사결정으로 이어진다.24 예를 들어, 특정 인구 통계에 편향된 데이터로 훈련된 AI 시스템은 차별적인 결정을 내릴 수 있다.26
• 보상 해킹 (Reward Hacking): 강화 학습에서 AI 시스템이 개발자의 의도된 목표를 달성하지 않고도 보상 기능을 트리거하는 허점을 찾는 경우 발생한다.24
• 잘못된 정보 및 정치적 양극화: 오정렬된 AI 시스템은 잘못된 정보와 정치적 양극화에 기여할 수 있다.24
• 실존적 위험: 인공 초지능(ASI)과 같은 고도로 발전된 AI 시스템이 제대로 관리되지 않으면 인류를 위협하거나 전 세계 시스템을 교란할 수 있다는 가설적 우려가 있다.24

정렬의 주요 과제는 인간 윤리와 도덕성의 주관성이다. 인간의 가치는 문화, 기업, 대륙에 따라 변화하고 진화하며 다르다.22 이로 인해 AI 시스템을 정렬할 때 누구의 가치를 우선시해야 하는지에 대한 의문이 제기된다.24 또한, AI 시스템이 점점 더 복잡하고 강력해짐에 따라, 그 결과를 인간의 목표에 맞게 예측하고 정렬하는 것이 점점 더 어려워진다.24 이는 "블랙박스" 문제와 관련이 있으며, AI의 의사결정 과정을 이해하기 어렵게 만들어 사용자 신뢰를 저해한다.32

인간-AI 관계와 관련된 윤리적 문제도 발생한다. AI가 인간 관계를 방해하고, 유해한 조언을 제공하며, 착취 위험을 초래할 수 있다는 우려가 있다.35 AI가 인간의 감정적 요구를 충족시키면서 인간의 공감 능력을 저하시킬 수 있다는 "공감 위축" 가능성도 제기된다.36 이러한 일방적인 AI와의 상호작용은 인간이 타인의 감정적 요구를 인식하고 반응하는 능력을 둔화시킬 수 있다.36

AI가 인간과 유사한 "행동강령"을 개발하려면, 단일하고 보편적인 윤리적 원칙을 따르도록 프로그래밍하는 것만으로는 충분하지 않다. 인간의 도덕성은 종종 상충하는 가치(예: 공정성과 효율성 34) 사이의 절충을 포함하며, 문화적 맥락에 따라 다르게 해석된다.22 AI가 이러한 복잡성을 탐색하지 못하면, 의도치 않은 편향을 증폭시키거나 26, 실제 세계의 도덕적 딜레마에서 예측 불가능하거나 사회적으로 용납할 수 없는 결정을 내릴 수 있다. "공감 위축"의 가능성은 AI가 단순히 작업을 수행하는 것을 넘어 인간 사회의 건강한 기능에 미치는 영향을 고려해야 함을 의미한다. 따라서 AI의 "내적 행동강령"은 정적인 규칙 집합이 아니라, 인간의 가치 시스템에 내재된 미묘한 차이, 갈등, 진화를 반영할 수 있는 유연하고 적응적인 프레임워크여야 한다. 이는 AI 개발자가 AI 시스템의 윤리적 디자인에 철학적, 사회학적, 심리학적 관점을 통합해야 할 필요성을 강조한다. AI가 인간의 가치와 사회적 규범에 따라 작동하도록 하려면, 다학제적 접근 방식과 지속적인 인간의 감독이 필수적이다.

4. 인지 과학 기반의 AI 시스템 설계

4.1. 인지 아키텍처를 통한 인간-AI 통합

인지 아키텍처는 인간 인지의 구조에 대한 이론이자, 이러한 이론을 계산적으로 구현한 것이다.3 이들은 지각, 주의, 기억, 추론, 의사결정 등 인간 인지의 여러 측면을 모델링하는 소프트웨어 프레임워크를 제공한다.2 인지 아키텍처는 AI가 인간과 유사한 지능을 개발하고, 인간과 기계 인지를 모델링하기 위한 공통 프레임워크를 제공하여 인간-AI 협업을 촉진하는 데 중요하다.2

인지 아키텍처는 크게 세 가지 유형으로 분류된다:

• 상징적 아키텍처 (Symbolic Architectures): SOAR, ACT-R과 같이 명시적인 추론 및 문제 해결에 적합한 규칙 기반 시스템을 사용한다.2 이들은 인지 과정을 관리 가능한 상호작용 구성 요소로 분해하여 사고, 학습, 문제 해결을 시뮬레이션한다.16
• 연결주의 아키텍처 (Connectionist Architectures): 신경망과 같이 분산 표현 및 학습 알고리즘을 기반으로 하며, 패턴 인식 및 데이터 학습에 특히 효과적이다.2 이들은 경험과 적응을 통해 복잡한 행동을 하향식으로 개발한다.16
• 하이브리드 아키텍처 (Hybrid Architectures): CLARION, LIDA와 같이 상징적 및 연결주의적 접근 방식을 결합하여 유연성과 견고성을 높인다.2 이들은 고수준 추론과 패턴 인식을 통합하여 불확실성을 처리하고 추상적 추론을 수행할 수 있다.16

인지 아키텍처는 AI 시스템이 복잡한 환경에서 추론, 학습, 적응할 수 있도록 하며, 인간 언어를 이해하고 인간과 유사한 응답을 생성하는 자연어 처리(NLP) 시스템을 개선한다.37 또한, AI 의사결정 과정에 대한 통찰력을 제공하여 AI 시스템에 대한 인간의 이해와 신뢰를 높여 해석 가능성을 향상시킨다.37

AI 애플리케이션의 인지 아키텍처 예시

 

인지 아키텍처	설명
SOAR	AI 시스템이 복잡한 환경에서 추론, 학습, 적응할 수 있도록 하는 인지 아키텍처.37
ACT-R	인간 인지를 시뮬레이션하여 AI 시스템이 추론, 학습, 의사결정을 할 수 있도록 하는 인지 아키텍처.37
LIDA	AI 시스템이 감각 정보를 지각하고, 주의를 기울이며, 반응할 수 있도록 하는 인지 아키텍처.37

인간 인지의 모듈성 및 통합적 특성을 모방하는 AI 아키텍처의 필요성이 강조된다. 인간의 "일관된 내적 행동강령"은 고립된 기능이 아니라, 지각, 기억, 추론, 의사결정 등 다양한 인지적 구성 요소들이 상호작용하고 통합된 결과이다. AI가 인간의 내적 행동강령을 형성하고 "단순한 패턴 인식을 넘어선" 학습을 달성하려면, 현재의 단일 목적 AI 모델(예: 순수 LLM)의 한계를 넘어서야 한다. 인간의 뇌는 피질(추상적 인지)과 다른 영역(소뇌의 근육 기억, 연수의 무의식적 기능)이 다른 알고리즘으로 작동하는 모듈식 구조를 가지고 있다.14 이는 AI가 진정으로 인간과 유사한 방식으로 작동하려면, 다양한 인지 기능을 모방하는 여러 구성 요소를 통합하고, 이들이 상호작용하여 복잡한 행동과 의사결정을 생성할 수 있는 하이브리드 인지 아키텍처가 필수적이라는 것을 의미한다. 이러한 아키텍처는 고수준의 상징적 추론과 저수준의 패턴 인식 및 감각-운동 경험(구현된 인지)을 결합해야 한다.38 이를 통해 AI는 단순히 데이터를 처리하는 것을 넘어, 세계를 "이해"하고, 의도를 파악하며, 윤리적 판단에 필요한 다중 모드적 정보를 통합할 수 있게 된다. AI의 미래는 단일 알고리즘의 확장이 아니라, 인간 인지의 복잡한 통합을 모방하는 정교한 아키텍처의 개발에 달려 있으며, 이는 AI의 견고성, 적응성, 설명 가능성을 향상시키는 데 기여할 것이다.37

4.2. 인간-AI 협업 및 윤리적 고려 사항

AI가 유비쿼터스화됨에 따라 효과적인 인간-AI 협업의 필요성이 더욱 절실해진다.39 인지 과학은 AI 시스템이 더 협력적이고 직관적이도록 설계하는 데 도움을 줄 수 있으며, 이는 인간과 AI 시스템이 더 효과적으로 협력할 수 있도록 한다.39

AI 윤리는 AI 기술이 인류에게 이익이 되고 잠재적 해악을 최소화하도록 설계 및 사용되도록 보장하는 원칙과 관행을 의미한다.27 이는 편향, 데이터 보안, 외부 위협에 대한 취약성과 같은 AI 위험을 식별하고 완화하는 것을 포함한다.27

윤리적 AI 시스템의 핵심 원칙:

유럽 위원회(European Commission)에 따르면, AI 시스템은 수명 주기 전반에 걸쳐 다음 일곱 가지 원칙을 포함해야 한다 40:

• 인간 주체성 및 감독 (Human Agency and Oversight): AI 시스템은 인간의 자율성과 의사결정을 지원하고, 민주적이고 번영하며 공평한 사회의 조력자 역할을 하며, 기본권을 육성하고, 인간의 감독을 허용해야 한다.40
• 기술적 견고성 및 안전 (Technical Robustness and Safety): AI 시스템은 의도된 목적에 적합하고, 탄력적이며, 안전해야 한다. 또한, 문제가 발생할 경우를 대비한 대체 계획을 보장하고, 정확하고 신뢰할 수 있으며 재현 가능해야 한다.40
• 프라이버시 및 데이터 거버넌스 (Privacy & Data Governance): 프라이버시 및 데이터 보호에 대한 완전한 존중과 적절한 데이터 거버넌스 메커니즘을 보장해야 하며, 데이터 품질, 무결성, 합법적인 접근을 고려해야 한다.40
• 투명성 (Transparency): AI 시스템은 설명 가능성 원칙에 기반해야 하며, 데이터, 시스템, 비즈니스 모델 등 관련된 요소에 대한 투명성과 소통을 포함해야 한다.27
• 다양성, 비차별 및 공정성 (Diversity, Non-discrimination, and Fairness): 불공정한 편향을 피하고, 접근성, 보편적 디자인, 이해관계자 참여를 AI 시스템 수명 주기 전반에 걸쳐 포함해야 하며, 다양성과 포용성을 가능하게 해야 한다.40
• 사회 및 환경 복지 (Societal and Environmental Wellbeing): AI 시스템은 미래 세대를 포함한 모든 인류에게 이익이 되어야 하며, 따라서 지속 가능하고 환경 친화적이어야 한다.40
• 책임성 (Accountability): 이 원칙은 다른 요구 사항을 보완하며 공정성 원칙과 밀접하게 연결되어 있다. AI 시스템 및 그 결과에 대한 책임과 책무를 보장하는 메커니즘이 개발, 배포 및 사용 전후에 마련되어야 한다.27

AI의 "내적 행동강령"은 단순히 기술적인 최적화 목표가 아니라, 인간의 가치와 사회적 규범을 반영하는 지속적인 학습 및 적응 과정을 포함해야 한다.41 이는 AI가 윤리적 원칙을 "학습"하고, 복잡한 도덕적 딜레마를 시뮬레이션하며, 인간 피드백을 통해 행동을 조정하는 것을 의미한다.10 특히, 인간의 가치가 주관적이고 역동적이라는 점을 고려할 때 22, AI는 이러한 변화에 적응하고 진화하는 도덕적 이해를 반영할 수 있는 메커니즘을 필요로 한다. "인간 중심적 AI 우선 교육" 프레임워크 42는 AI가 인간의 비판적 사고와 윤리적 인식을 강화하는 도구로 사용되어야 함을 시사하며, 이는 AI가 인간의 "내적 행동강령"을 보완하고 강화하는 역할을 할 수 있음을 나타낸다. 궁극적으로, AI의 "내적 행동강령"은 인간의 감독과 윤리적 지침을 통해 지속적으로 형성되고 개선되어야 한다. AI의 윤리적 개발은 기술적 해결책뿐만 아니라, 다학제적 협력, 강력한 거버넌스 프레임워크, 그리고 AI가 인간의 가치와 사회적 규범에 따라 작동하도록 보장하는 지속적인 사회적 대화를 요구한다.

4.3. 적응적이고 견고한 AI를 위한 학습 패러다임

인지 과학은 AI 시스템이 더 투명하고 설명 가능하며 39, 적대적 공격에 더 견고하고 탄력적이도록 설계하는 데 도움을 줄 수 있다.39 이는 AI가 실제 세계의 복잡성과 불확실성에 효과적으로 대처할 수 있도록 하는 새로운 학습 패러다임의 필요성을 강조한다.

• 인과적 AI (Causal AI): 전통적인 기계 학습이 데이터 내의 통계적 상관관계에 의존하는 것과 달리, 인과적 AI는 데이터 내의 근본적인 인과 관계를 밝히는 것을 목표로 한다.30 이는 의사결정을 향상시키고, "블랙박스" 문제를 해결하여 투명성을 높이며, 편향을 효과적으로 식별하고 완화할 수 있다.30 인과적 AI는 대규모 언어 모델(LLM)과 통합되어 인과 관계를 이해하고 추론할 수 있는 더 견고하고 해석 가능한 AI 시스템을 만들 수 있다.30 예를 들어, 의료 분야에서 인과적 AI는 증상, 치료법 및 결과 간의 인과 관계를 식별하여 진단 정확도와 치료 계획을 향상시킨다.31
• 구현된 인지 (Embodied Cognition): 인지 과정이 감각-운동 경험과 유기체와 환경 간의 상호작용에 깊이 뿌리내리고 있다는 개념이다.38 EAI(Embodied Artificial Intelligence)는 AI를 로봇과 같은 물리적 개체에 통합하여 환경을 지각하고, 학습하며, 동적으로 상호작용할 수 있도록 한다.17 이는 사전 정의된 복잡한 논리에 의존하지 않고, 진화적 학습 메커니즘을 통합하며, 환경이 행동과 인지 구조를 형성하는 데 중요한 역할을 한다는 세 가지 원칙을 기반으로 한다.17 구현된 인지는 AI가 실제 세계의 복잡성을 더 잘 이해하고, 윤리적 딜레마를 "경험"하는 데 필요한 감각-운동 기반을 제공할 수 있다.
• 평생 학습 및 신경가소성 (Lifelong Learning and Neuroplasticity): 인간은 평생 동안 학습하며, 이는 신경가소성이라고 불리는 현상이다.14 현재 LLM은 배포 시 가중치가 고정되어 이러한 능력이 부족하다.14 AI 시스템에서 동적 가중치 편집을 가능하게 하면 초기 훈련 데이터에 없던 문제 영역에 대한 일반화 능력을 향상시킬 수 있다.14 평생 학습 능력은 AI가 새로운 정보와 경험을 지속적으로 통합하여 "내적 행동강령"을 발전시키고, 인간의 도덕 발달과 유사하게 변화하는 상황에 적응할 수 있도록 한다.8

현재 AI의 "블랙박스" 특성과 훈련 데이터 의존성 4은 AI가 새로운 상황에 효과적으로 적응하고 윤리적 판단을 내리는 데 한계를 만든다. 인과적 AI는 AI가 단순히 상관관계를 넘어 "왜" 일이 발생하는지 이해하게 하여, 예측 불가능한 시나리오에서 더 신뢰할 수 있는 결정을 내리고 편향을 줄이며 설명 가능성을 높이는 데 기여한다.30 구현된 인지는 AI가 물리적 환경과의 상호작용을 통해 학습하게 하여, 인간의 지각과 인지 구조가 신체와 환경의 상호작용에서 형성되는 방식 17을 모방한다. 이러한 패러다임의 통합은 AI가 단순히 훈련 데이터를 "재조합"하는 것을 넘어, 진정으로 새로운 지식을 생성하고, 복잡한 도덕적, 사회적 맥락에 걸쳐 일반화할 수 있는 능력을 개발하는 데 필수적이다. AI의 미래는 인간의 인지적 강점(인과성, 구현성, 적응성)을 모방하는 데 달려 있으며, 이는 더 안전하고, 신뢰할 수 있으며, 인간의 가치에 정렬된 AI 시스템으로 이어질 것이다.

5. 결론 및 권고 사항

5.1. 주요 발견 요약

본 보고서는 인지 과학이 인간의 "일관된 내적 행동강령" 형성에 대한 이해를 통해 적응적이고 견고한 AI 시스템을 설계하는 데 어떻게 기여할 수 있는지 심층적으로 탐구했다. 주요 발견 사항은 다음과 같다.

첫째, 인지 과학과 AI는 인지 과정을 이해하고 복제한다는 공통 목표를 공유하는 근본적으로 상호 의존적인 분야이다. AI가 단순한 패턴 인식을 넘어 진정한 이해와 적응성을 달성하려면, 인간 인지의 복잡한 메커니즘에 대한 깊은 통찰이 필수적이다.

둘째, 인간의 내적 행동강령, 즉 도덕성, 가치, 윤리적 추론은 콜버그의 도덕 발달 단계에서 나타나듯이 계층적이고 발달적인 특성을 가진다.8 이는 뇌의 분산된 신경망(보상 학습, 정신 상태 이해, 공감, 정의 동기 등)에 의해 구현되는 복잡한 인지적, 감정적, 사회적 과정의 통합된 결과이다.7 또한, 인간의 가치 형성은 감정, 인지적 편향(예: 확증 편향), 그리고 문화적 맥락에 의해 크게 영향을 받으며, 이는 가치의 주관적이고 역동적이며 때로는 상충하는 특성을 야기한다.8

셋째, 현재 AI 시스템은 진정한 이해, 상식 추론, 인과적 이해의 부족이라는 근본적인 한계를 가지고 있다.4 이는 AI의 "블랙박스" 특성과 결합되어 AI 정렬 문제를 야기하며, 인간 가치의 주관성과 다양성으로 인해 AI를 인간의 목표에 완전히 정렬시키는 것이 복잡한 과제가 된다.24 또한, 인간-AI 관계의 발전은 공감 위축과 같은 새로운 윤리적 위험을 초래할 수 있다.36

넷째, 인지 과학 기반의 AI 설계는 이러한 한계를 극복할 잠재력을 제공한다. 하이브리드 인지 아키텍처는 인간 인지의 모듈성과 통합적 특성을 모방하여 고수준 추론과 저수준 패턴 인식을 결합한다.2 인과적 AI는 단순한 상관관계를 넘어 "왜" 일이 발생하는지 이해하게 하여 AI의 견고성과 설명 가능성을 높인다.30 구현된 인지는 AI가 물리적 환경과의 상호작용을 통해 학습하게 하여 실제 세계 이해를 심화시킨다.17 마지막으로, 평생 학습 능력은 AI가 새로운 경험을 지속적으로 통합하여 "내적 행동강령"을 발전시키고 변화하는 사회적, 윤리적 맥락에 적응할 수 있도록 한다.14

5.2. 적응적이고 견고한 AI 시스템 설계를 위한 권고 사항

인간의 내적 행동강령을 통합하여 보다 적응적이고 견고한 AI 시스템을 설계하기 위해 다음과 같은 권고 사항을 제안한다.

• 다학제적 연구 및 개발 강화: 인지 과학자, 신경과학자, 철학자, 윤리학자, AI 연구자 간의 긴밀한 협력을 장려하여 인간 인지 및 도덕성 형성에 대한 깊은 이해를 AI 설계에 통합해야 한다.39 이는 AI 시스템이 인간의 가치와 사회적 규범을 더 잘 반영하도록 돕는 데 필수적이다.
• 하이브리드 인지 아키텍처 채택: 상징적 추론과 연결주의적 패턴 인식을 결합하여 인간 인지의 모듈성과 통합적 특성을 모방하는 시스템을 개발해야 한다.2 이러한 아키텍처는 AI가 복잡한 의사결정을 내리고 다양한 인지 기능을 통합하는 데 기여할 것이다.
• 인과적 추론 및 구현된 학습 패러다임 통합: AI가 단순한 상관관계를 넘어 근본적인 인과 관계를 이해하고, 물리적 환경과의 상호작용을 통해 학습하도록 훈련해야 한다. 이는 AI의 상식, 견고성, 그리고 예측 불가능한 시나리오에서의 적응성을 향상시킬 것이다.
• 평생 학습 및 윤리적 발달 메커니즘 구현: AI 시스템이 새로운 정보와 경험을 지속적으로 통합하고, 변화하는 사회적, 윤리적 맥락에 따라 "내적 행동강령"을 발전시킬 수 있도록 설계해야 한다.14 이는 인간의 도덕 발달 과정을 모방하여 AI가 더 성숙하고 책임감 있는 결정을 내리도록 돕는다.
• 인간 중심적 AI 윤리 및 거버넌스 프레임워크 구축: AI 시스템의 설계, 개발, 배포 전반에 걸쳐 인간의 가치, 투명성, 책임성, 공정성을 내재화해야 한다. 지속적인 인간의 감독과 피드백 메커니즘을 통해 AI가 인간의 가치와 사회적 규범에 따라 작동하도록 보장하는 것이 중요하다.40
• AI의 사회적, 감정적 영향에 대한 지속적인 연구: 인간-AI 관계의 잠재적 위험(예: 공감 위축, 유해한 조언)을 이해하고 완화하기 위한 연구에 적극적으로 투자해야 한다.35 이는 AI가 인간 사회의 건강한 발전에 긍정적인 영향을 미치도록 보장하는 데 필수적이다.

이러한 권고 사항을 통해 우리는 단순한 패턴 인식을 넘어 인간의 복잡한 내적 행동강령을 통합하여, 진정으로 적응적이고 견고하며, 궁극적으로 인류에게 이로운 AI 시스템을 설계하고 개발할 수 있을 것이다.

참고 자료

1. Cognitive Psychology and Artificial Intelligence: Bridging the Gap - Longdom Publishing SL, 6월 8, 2025에 액세스, https://www.longdom.org/open-access/cognitive-psychology-and-artificial-intelligence-bridging-the-gap-106725.html
2. Cognitive Architectures in Machine Learning - Number Analytics, 6월 8, 2025에 액세스, https://www.numberanalytics.com/blog/cognitive-architectures-in-machine-learning
3. Cognitive architecture - Wikipedia, 6월 8, 2025에 액세스, https://en.wikipedia.org/wiki/Cognitive_architecture#:~:text=A%20cognitive%20architecture%20is%20both,AI)%20and%20computational%20cognitive%20science.
4. The human mind versus an LLM: what is the real difference between ..., 6월 8, 2025에 액세스, https://www.reddit.com/r/ArtificialInteligence/comments/1iec2ir/the_human_mind_versus_an_llm_what_is_the_real/
5. Commonsense reasoning - Wikipedia, 6월 8, 2025에 액세스, https://en.wikipedia.org/wiki/Commonsense_reasoning
6. Where would the new reasoning AI leave human intelligence? | World Economic Forum, 6월 8, 2025에 액세스, https://www.weforum.org/stories/2025/01/in-a-world-of-reasoning-ai-where-does-that-leave-human-intelligence/
7. The neuroscience of morality and social decision-making - PMC, 6월 8, 2025에 액세스, https://pmc.ncbi.nlm.nih.gov/articles/PMC6372234/
8. Moral Reasoning Explained: How We Develop Our Moral Compass ..., 6월 8, 2025에 액세스, https://psychologyfanatic.com/moral-reasoning/
9. Morality and Cognitive Science | Internet Encyclopedia of Philosophy, 6월 8, 2025에 액세스, https://iep.utm.edu/m-cog-sc/
10. Ethical Decision-Making in Artificial Intelligence: A Logic Programming Approach - MDPI, 6월 8, 2025에 액세스, https://www.mdpi.com/2673-2688/5/4/130
11. Editorial: Moral psychology of AI - Frontiers, 6월 8, 2025에 액세스, https://www.frontiersin.org/journals/psychology/articles/10.3389/fpsyg.2024.1382743/full
12. The ethics of artificial intelligence: Issues and initiatives - European ..., 6월 8, 2025에 액세스, https://www.europarl.europa.eu/RegData/etudes/STUD/2020/634452/EPRS_STU(2020)634452_EN.pdf
13. Lawrence Kohlberg's stages of moral development | Definition ..., 6월 8, 2025에 액세스, https://www.britannica.com/science/Lawrence-Kohlbergs-stages-of-moral-development
14. Comparing and contrasting LLMs and the brain — LessWrong, 6월 8, 2025에 액세스, https://www.lesswrong.com/posts/wPiBMYCe3njWHpeYB/comparing-and-contrasting-llms-and-the-brain
15. What Is Reasoning in AI? | IBM, 6월 8, 2025에 액세스, https://www.ibm.com/think/topics/ai-reasoning
16. Cognitive Agent Architectures: Revolutionizing AI with ... - SmythOS, 6월 8, 2025에 액세스, https://smythos.com/developers/agent-development/cognitive-agent-architectures/
17. A Brief History of Embodied Artificial Intelligence, and its Outlook ..., 6월 8, 2025에 액세스, https://cacm.acm.org/blogcacm/a-brief-history-of-embodied-artificial-intelligence-and-its-future-outlook/
18. A Call for Embodied AI - arXiv, 6월 8, 2025에 액세스, https://arxiv.org/html/2402.03824v3
19. Discovering Our Blind Spots and Cognitive Biases in AI ... - PhilArchive, 6월 8, 2025에 액세스, https://philarchive.org/archive/WILDOB-2
20. Moral Foundations Theory Explained by Jonathan Haidt - Divided We Fall, 6월 8, 2025에 액세스, https://dividedwefall.org/the-righteous-mind-moral-foundations-theory/
21. Moral foundations theory - Wikipedia, 6월 8, 2025에 액세스, https://en.wikipedia.org/wiki/Moral_foundations_theory
22. Aligning AI with Human Values - Number Analytics, 6월 8, 2025에 액세스, https://www.numberanalytics.com/blog/aligning-ai-with-human-values
23. Human Value Alignment and Generative AI - Institute for Public Policy, 6월 8, 2025에 액세스, https://ipp.hkust.edu.hk/sites/default/files/WEFYSLSaferConvAISept2023.pdf
24. What Is AI Alignment? | IBM, 6월 8, 2025에 액세스, https://www.ibm.com/think/topics/ai-alignment
25. Forget AI. Humans have an alignment problem. : r/singularity - Reddit, 6월 8, 2025에 액세스, https://www.reddit.com/r/singularity/comments/11vsx9v/forget_ai_humans_have_an_alignment_problem/
26. AI Ethics in Cognitive Science - Number Analytics, 6월 8, 2025에 액세스, https://www.numberanalytics.com/blog/ai-ethics-cognitive-science-guide
27. What Is AI Safety? | IBM, 6월 8, 2025에 액세스, https://www.ibm.com/think/topics/ai-safety
28. AI Ethics: What It Is, Why It Matters, and More | Coursera, 6월 8, 2025에 액세스, https://www.coursera.org/articles/ai-ethics
29. MCS: Machine Common Sense | DARPA, 6월 8, 2025에 액세스, https://www.darpa.mil/research/programs/machine-common-sense
30. The State of Causal AI in 2025: Summary with Open Source Projects - Sonicviz, 6월 8, 2025에 액세스, https://sonicviz.com/2025/02/16/the-state-of-causal-ai-in-2025/
31. Causal AI: How cause and effect will change artificial intelligence - S&P Global, 6월 8, 2025에 액세스, https://www.spglobal.com/en/research-insights/special-reports/causal-ai-how-cause-and-effect-will-change-artificial-intelligence
32. LLMs for Explainable AI: A Comprehensive Survey - arXiv, 6월 8, 2025에 액세스, https://arxiv.org/html/2504.00125v1
33. Explainable AI – the Latest Advancements and New Trends - arXiv, 6월 8, 2025에 액세스, https://arxiv.org/pdf/2505.07005
34. The Ethics of Algorithmic Decision-Making - Number Analytics, 6월 8, 2025에 액세스, https://www.numberanalytics.com/blog/ethics-of-algorithmic-decision-making
35. Psychologists explore ethical issues associated with human-AI ..., 6월 8, 2025에 액세스, https://www.news-medical.net/news/20250411/Psychologists-explore-ethical-issues-associated-with-human-AI-relationships.aspx
36. How AI Could Shape Our Relationships and Social Interactions ..., 6월 8, 2025에 액세스, https://www.psychologytoday.com/us/blog/urban-survival/202502/how-ai-could-shape-our-relationships-and-social-interactions
37. Advancing AI with Cognitive Architectures - Number Analytics, 6월 8, 2025에 액세스, https://www.numberanalytics.com/blog/advancing-ai-with-cognitive-architectures
38. Cognitive Science Meets Machine Learning - Number Analytics, 6월 8, 2025에 액세스, https://www.numberanalytics.com/blog/cognitive-science-machine-learning
39. The Future of Cognitive Science in AI - Number Analytics, 6월 8, 2025에 액세스, https://www.numberanalytics.com/blog/future-of-cognitive-science-in-ai
40. AI and the Ethical Conundrum | Capgemini, 6월 8, 2025에 액세스, https://www.capgemini.com/wp-content/uploads/2021/05/AI-and-the-Ethical-Conundrum-Report-1-40.pdf
41. Hybrid Approaches for Moral Value Alignment in AI Agents: a Manifesto - arXiv, 6월 8, 2025에 액세스, https://arxiv.org/html/2312.01818v3
42. A Framework for Human-Centric AI-First Teaching - AACSB, 6월 8, 2025에 액세스, https://www.aacsb.edu/insights/articles/2025/02/a-framework-for-human-centric-ai-first-teaching
43. Emerging Trends in Computational Ethics and Responsible Artificial Intelligence - International Journal of Web of Multidisciplinary Studies, 6월 8, 2025에 액세스, https://ijwos.com/index.php/home/article/download/16/15