[앵커]

고성능 인공지능 모델을 개발하기 위해 그래픽 카드를 사고, 데이터 센터를 구축하는 비용이 수십, 수백조 원에 이른다고 하죠.

그런데 '거대 모델'을 고수하지 않는다면 거액의 돈을 들이지 않고도 인공지능을 활용할 수 있는 방법이 있다고 합니다.

박진준 기자가 보도합니다.

[리포트]

세계 최대 이동통신기술 전시회 MWC.

국내 반도체 개발 스타트업의 전시관에 손님들의 질문이 이어집니다.

[해외 바이어]

"이 제품은 내장된 프로세서로만 작동하는 건가요?"

가로*세로 2cm짜리 AI 전용 반도체.

가정용 컴퓨터에 이 칩을 꽂으면 인공지능 기술을 구현할 수 있는 고성능 컴퓨터가 됩니다.

[윤상현 이사/AI반도체 개발업체]

"AI형으로 최적화돼서 이제 병렬 연산을 잘 수행할 수 있게끔 나온 솔루션이라고 보시면 됩니다."

챗 GPT, 제미나이 등 거대언어모델은 데이터가 먼 거리를 이동해 서버까지 갔다 와야하는데, 서버 운영에 전기와 고성능 그래픽카드가 많이 듭니다.

하지만 스마트폰, 드론, 로봇, 전자제품에 아예 AI 반도체를 장착하면 전기도 적게 쓰고 데이터는 이동할 필요가 없어집니다.

거대한 서버가 필요없는 작은 AI 기술엔, 전용 반도체로 경제성을 더하는 겁니다.

국내 스타트업이 개발한 생성형 AI.

기타 치는 곰돌이 영상을 만들라고 명령하자, 30초 만에 귀여운 곰돌이의 모습이 뚝딱 만들어집니다.

역시 AI가 화두였던 세계 최대 IT 전시회 CES에서 혁신상을 받은 기술입니다.

비싼 그래픽카드가 아닌 일반 CPU, 그러니까 가정용 PC에서도 작동하도록 AI를 경량화했습니다.

[유승재 대표/AI프로그램 개발회사]

"수치화 계량화시키고 불필요한 걸 제거하고 그리고 프루닝(가지치기) 같은 다양한 AI 기법들을 활용해서 정말 쓸 수 있는 필요로 하는 그런 데이터들을 남기고요."

일상 생활에서의 활용도가 커져야 그 가치도 높아지는 AI.

딥시크 쇼크로 정부가 2조 원을 들여 고성능 그래픽 카드 2만 장을 사겠다고 했지만, 이게 AI 경쟁력을 확보하는 유일한 방법은 아니란 지적이 나옵니다.

[유응준/한국과학종합대학원 대학교 교수]

"뭐 스마트폰에 들어가는 칩이라든가 아니면 자동차에 들어가는 칩이라든가 또는 뭐 드론에 들어가는 칩이라든가 이 시장은 기존의 트레이닝 시장보다는 훨씬 더 커질 수 있다는 얘기죠."

고성능 반도체가 많이 필요한 거대언어모델 개발에만 집착하지 말고 AI 전용 반도체나, 소형언어모델 개발로 틈새시장을 노릴 수 있다는 이야깁니다.

MBC뉴스 박진준입니다.

- 기사 원문: https://imnews.imbc.com/replay/2025/nwdesk/article/6694075_36799.html