미국 반도체 기업 엔비디아가 AI 추론 칩 스타트업 그록(Groq)과 비독점 기술 라이선스 계약을 체결하고 핵심 인재를 영입했다.

지난 24일(현지시간), 그록은 엔비디아가 자사 칩 기술에 대한 비독점 라이선스 계약에 동의했다고 밝혔다. 그록은 이미 학습된 인공지능 모델이 사용자 요청에 응답하는 과정인 ‘추론’에 특화된 칩 기술을 보유한 기업이다.

이번 계약은 해당 기술에 대한 활용과 확장을 포함하는 형태로, 인력 이동도 함께 이뤄졌다. 그록은 조너선 로스 창립자와 써니 마드라 사장, 엔지니어링 조직 일부가 엔비디아에 합류해 라이선스 기술의 고도화와 확장을 지원할 예정이라고 설명했다.

엔비디아는 AI 모델 학습용 칩 시장에서는 사실상 독점적 지위를 구축했지만, AI 추론용 칩 시장에서는 다수 업체가 경쟁하는 구도가 형성돼 있다.

기존 반도체 기업인 AMD와 AI 추론 칩에 특화된 스타트업인 세레브라스 시스템즈(Cerebras Systems) 등 기업들이 AI 추론용 칩 시장에 잇따라 진입하고 있다.

그록은 외부 고대역폭 메모리(HBM)를 사용하지 않고 온칩 SRAM을 활용하는 구조를 채택해, 메모리 공급 부족 영향을 상대적으로 덜 받으면서도 낮은 지연 시간의 추론 성능을 강점으로 내세워 왔다. 다만 이 방식은 처리 가능한 모델 크기에 제약이 있다는 한계도 함께 지적된다.

한편 엔비디아 최고경영자(CEO) 젠슨 황은 지난 10월 기조연설에서 “인공지능 시장의 중심이 학습에서 추론으로 이동하는 과정에서도 엔비디아는 선두를 유지할 수 있다”고 밝힌 바 있다.