본문 바로가기

전체 글24

[리뷰] 생각하는 기계: Continuous Thought Machines 많은 사람들이 인공지능을 '입력을 넣으면 출력이 튀어나오는 기계'라고 여기고 있다. 실제로 현재 세상을 뒤덮고 있는 LLM이나 이미지 생성 모델들은 대부분 정해진 순서대로 데이터를 처리하는 구조를 가진다. 즉, 데이터가 신경망을 한 번 훑고 지나가면 바로 답이 나오는 구조다. 하지만 인간의 뇌는 다르다. 우리는 어려운 문제를 마주하면 잠시 멈춰 서서 생각을 한다. 정보를 머릿속에서 되뇌고, '~이런 상황에서는 ~이렇게 되지 않을까?' 등의 시뮬레이션하고, 확신이 들 때까지 고민한다. 만약 인공지능에게도 멈춰서 생각할 시간을 준다면 어떨까? 이번에 소개할 논문은 단순히 인간의 뇌를 흉내 내는 것을 넘어, 시간과 신경 동기화라는 뇌의 작동 원리를 AI에 이식한 Continuous Thought Mach.. 2026. 1. 25.
[Google DeepMind] 뇌과학에서 영감을 받은 구글 딥마인드의 Perceiver 트랜스포머라는 인공지능 모듈의 등장 이후로 Gemini, ChatGPT 등의 초거대 모델들이 우리 시대를 집어삼키고 있다. 이 모델들은 발전에 발전을 거듭하여 단순히 글자를 받는 단계를 넘어 이미지, 비디오 파일까지 모든 것을 처리할 수 있다. 하지만 여기에는 치명적인 문제가 있다. 이러한 이미지나 비디오는 고용량 데이터고 방대하다는 것이다. 고해상도 이미지 한 장은 족히 10MB는 넘어가고, 1분짜리 비디오는 이보다 훨씬 더 용량이 크다. 기존 트랜스포머는 이 모든 입력 데이터을 N개의 여러 조각으로 분해하여 분석하는데, 문제는 N개의 조각과 N개의 조각 모두를 비교하기에 계산량을 감당할 수 없게 된다. 흔히 Self-Attention이라는 모듈의 한계가 여기서 들어가는 것이다. 어떻게 엄청난 데이터.. 2025. 12. 13.
TPU vs. GPU: GPU는 끝인가? AI 시대 슈퍼컴퓨팅: TPU vs. GPU 현대 인공지능은 수백만개의 수식으로 정확히 표현될 수 있다. 일반적으로 이를 행렬 연산이라고 부르는데, GPU와 TPU는 이 행렬 연산을 빠르게 해준다. 흔히 가속기라고 부른다. 올해 초까지만해도 엔비디아의 GPU가 인공지능 가속기로써 많이 사용되었다. 하지만, 인공지능 기업들이 엔비디아의 의존도를 낮추고자 TPU를 고려하고 있다는 얘기에, 이 둘을 필자의 주관에 기반하여 비교하고 경제적 관점에서 장단점을 알아보도록 하고자 한다. 1. 범용성 vs. 특수성 흔히 어떤 물건을 여러 목적으로 사용할 때 범용성이라는 단어를 사용하고, 특정한 목표를 위해 사용할 때 특수성이라는 단어를 사용한다. GPU와 TPU는 인공지능을 가동하는데 사용되지만, 설계 목적이 근본적.. 2025. 12. 12.
피지컬 AI: 육체적 노동도 이젠 인공지능의 영역으로. AI의 종착점은 휴머노이드 로봇 세계적인 대기업 NVIDIA의 CEO인 젠슨 황이 세상에 던진 메시지. 인공지능이 디지털 영역에서 실제 물리적 세계로 나오려 한다. 흔히 휴머노이드 로봇이라고 불리는 피지컬 AI의 시대가 곧 열린다. 당신은 인공지능하면 무엇이 떠오르는가 우리가 사용하는 Gemini나 ChatGPT? 혹은 터미네이터? 그 무엇이 되었든 이것들 모두 인공지능이다. 하지만, 이 둘의 차이는 분명하다. 이 둘은 사이버 공간 vs. 실제 물리적 공간의 대립 구도에 있다. 우리가 사용하고 있는 현재의 인공지능은 전자에 속한다. 물리적인 몸이나 실체는 없지만, 그 지능은 디지털 공간에 존재한다. 하지만, 우리는 이제 피지컬 AI 시대로 흐르고 있다. 이 피지컬 AI는 센서와 대규모 AI 모델을 통.. 2025. 12. 11.