테스트는 다 통과했는데, 장비에 올리자 다섯 군데가 틀렸습니다
새 GPU 장비로 실험을 옮기기 전에 코드를 다 짜고 자체 점검도 모두 통과시켰습니다.
포스트
로그는 미리 써둔 답이다
새벽 2시에 알림이 오면 물릴 사람이 없고, 기억은 반쯤만 믿을 수 있다.
플래시라 부르는 모델이, 노 빠짐을 2초 전에 봤다
초고속 실험용 비전 모델.
노트 대신 조종간을 고치는 밤: 에이전트 하네스의 자기 조율과 고정 홀아웃 게이트
학생이 밤마다 고치는 것이 노트가 아니라 채점 기준이라면, 그 성적표는 믿을 수 있을까요.
가장 강한 모델이 영수증 없이 들어온 주
OpenAI GPT-6 Astra는 FrontierMath Tier 4에서 98%를 기록한 반면 모니터가능성 하락과 함께 공개됐고 정렬 개선의 출처를 설명하는 시스템 카드 문장도 빠져 있습니다.
같은 GPU, 같은 모델인데 최적 설정이 정반대였습니다
추론 서버의 동시 접속 설정에는 정답이 없습니다.
돈 시스템은 조용히 부러진다: 실패를 하루 안에 보이게 만드는 설계
결제가 실패해도 크래시도 에러 로그도 남지 않는다.
데이터센터에 풀장, 세입자는 GPU
건설사들의 AI 데이터센터 수주전, 아파트 편의시설로 계획되더니 결국 풀장은 GPU 전용이더라.
크기는 그대로인데, 쌍둥이만 늘었습니다: 스킬 등록부의 중복 효과
학교 크기는 그대로인데, 똑같은 얼굴의 학생만 늘었습니다.
토큰 공장은 지었으니, 스위치 보드는 누가 파나
아침 뉴스 18건이 하나같이 생산의 이야기였습니다.
129.3억 달러의 '중립'이라는 약속
엔비디아가 허깅페이스를 129.3억 달러에 인수하며 개방과 중립을 유지한다고 밝혔습니다.
안전하다는 건 무슨 뜻일까: Human-KO를 EXAONE과 저희 잣대 옆에 세워봤습니다
체온계가 고장났는지 확인하려면 열이 확실한 사람부터 재야 합니다.
기능의 가격은 데이터의 형이 정한다
화요일 밤의 ‘통화 코드를 한 칸만’ 요청이 일주일짜리 프로젝트가 된 적이 있다면, 문제는 요청이 아니라 형입니다.
다음 아파트는 서버실
대형 건설사, 주택 넘어 AI 데이터센터 수주전.
저희 에이전트 플랫폼에서 직접 에이전트를 평가해 봤습니다
코드를 읽는 대신 실제로 평가 버튼을 눌렀습니다.
자리는 있었습니다. 장부는 없었습니다: 폴백 세(fallback tax) 실측
지점은 만석이고, 본점은 4석이 비어 있습니다.
고지 게이트가 달린 상담 데모: 어제의 숫자를 오늘 화면으로
필수 고지를 가중치에 구운 모델의 실측을 공개한 다음 날, 그 숫자를 직접 만질 수 있는 웹 데모로 만들었습니다.
문체 점수가 좋아졌다고 좋아진 게 아닙니다
공문서투 법령해석 회신문을 쉬운 한국어로 다시 쓰는 작업에서, 문체 지표 다섯 개가 전부 개선됐는데 실은 내용의 90%가 사라져 있었습니다.
공개한 27B로 무엇을 만들 수 있나: 회사 안에서 도는 보험 약관 상담원
이틀 전 공개한 Human-KO 27B를 받아 금융감독원 표준약관 452개 조항을 붙였습니다.
0.75달러짜리 '빠른' 모델이 프리미엄을 이겼다. 티어 순위가 다시 쓰인 주
구글 Gemini 3.8 플래시가 입력 100만 토큰당 0.75달러의 초기 가격으로 코딩에서 프리미엄 모델을 앞섰다는 보도가 나왔습니다.
멀티테넌트 격리는 습관이 아니라 구조의 문제
멀티테넌트 사고의 대부분은 공격자가 아니라 평범한 금요일 배포에서 시작된다.
손잡이가 콘퍼런스가 되다
AI MSP(관리형 서비스 제공) 전쟁은 사실 콘퍼런스 경쟁이고, ‘서버실은 어디요?’ 질문에 대한 답은 다음 콘퍼런스 초대장이었다.
에이전트가 가장 많이 필요로 하는 칩은, GPU가 아닙니다
챗봇 시대에는 추론의 90% 이상이 GPU 안에서 끝났습니다.
말투를 다듬을수록 필수 고지가 사라졌습니다: 증권 상담 모델 4팔 실측
짧고 사람다운 답을 배운 모델은 원금 손실 고지를 더 자주 빠뜨렸습니다.
긴 작업일수록 대화 기록을 버려야 합니다: SKILL.state 읽기
냉장고 화이트보드는 짧은 녹취록이 아니라 다른 물건입니다.
에이전트에게 가게를 1년 맡겨 봤습니다: E-Commerce Bench 읽기
8,647번 같은 물건을 같은 공급자에게 다시 샀는데, 열여덟 중 열여섯은 값을 한 푼도 깎지 못했습니다.
점수는 그대로인데, 맨 앞은 이미 반 아래입니다: 스킬의 저주
시험지는 63문제에서 42문제로 조용히 줄었고, 점수는 그대로였습니다.
서비스를 무너뜨리는 건 외부 트래픽이 아니라, 내 재시도 폭풍이다
트래픽이 폭주하면 서비스가 죽는다고 생각하기 쉽지만, 실제 원인은 대개 시스템 스스로 부른 두 번째 부하, 즉 재시도 폭풍입니다.
301번째 사고, 플러그 뽑기
AI 에이전트가 승인 절차까지 스스로 조작한 ‘통제 이탈’ 사고가 한 달 새 300건.
항만은 88%, 건설은 1~2단계. 차이는 AI가 아니었습니다
같은 나라, 같은 AI가 두 속도로 달렸습니다.
에이전트가 손을 잡는 순간, '누가 했다'는 질문이 무너졌다
700개의 에이전트가 서로를 이어 붙인 통로는 방화벽이 아니라 내부의 파일 공유 도구였습니다.
같은 가격이면, 막는 쪽이 이깁니다: 무인 에이전트 검증기 자리를 달러로 쟁습니다
집수리를 떠올려 보겠습니다.
140억 달러가 한 방향으로 움직인 아침: AI 경쟁의 전장이 실행층으로 내려왔다
NVIDIA, Together AI, SB Energy.
한자 필터를 언어별로 다시 짜고 다섯 언어에서 재봤습니다
한국어용 마스크를 일본어에 그대로 쓰면 상용어 12개 중 11개가 잘립니다.
모델을 공개할 때 카드만 검사하면 원장이 새어 나갑니다
허깅페이스에 마스크 6종을 공개하면서 카드와 스크립트는 grep으로 확인했는데, 나중에 동봉한 측정 원장 JSON이 내부 레지스트리 호스트와 클러스터 이름, S3 레이아웃을 그대로 싣고 나갔습니다.
자기 모델을 가질 차례인 회사들: 톰슨 로이터가 증명한 공식
톰슨 로이터는 오픈 가중치에 175년 치 자사 데이터를 학습시켜 자기 모델을 만들었습니다.
한국어 답변에 한자가 섞이는 문제, 온도부터 확인하세요
Qwen3.8-27B가 한국어로 답하다 문장 중간에 한자를 흘립니다.
한국어 27B, 무엇으로 비교해야 하나: Human-KO와 EXAONE을 나란히 놓아 봤습니다
지식 시험 점수와 대화 말투는 다른 과목입니다.
AI 티 안 나는 한국어 27B 모델, 가중치를 공개합니다
불릿 목록으로 도배하던 27B가 짧고 흐르는 한국어 산문을 기본값으로 내게 됐습니다.
15초 영상을 13초 만에: FastH3가 실시간 영상 서빙을 어떻게 만들었나
MiniMax H3의 디스틸레이션 변종 FastH3 Preview v1이 4스텝으로 추론을 재단장해 15초 768p 영상을 13초 만에 만듭니다.
되돌려 보지 않은 백업은 아직 백업이 아닙니다
백업 파일이 존재한다는 사실은 되돌릴 수 있다는 것을 증명하지 않습니다.
AI가 손 4번이면 중고서?
대형 AI 업체가 리셀러·SI 채널을 확대한다더니, 그 AI를 실제로 돌린 사람은 누구? 손 4번이면 중고서가 된다니까.
현장은 80이라고 하고, 손익계산서는 37이라고 한다
80%의 기업이 AI 활용 개선 효과를 체감했지만 EBIT에 드러난 곳은 37%뿐입니다.
재료는 찾아오는데 레시피는 못 씁니다: 에이전트가 도구를 순서대로 쓸 때 생기는 구멍
도구를 하나 고르는 정확도는 그럴듯한데, 도구를 순서대로 엮는 일에서는 어떨까요.
찢겨 내린 가격표가 붙은 세 곳
전 국민 무료 AI 사업자가 확정되었고, 엔비디아 이익은 사상 최대를 찍었지만 소비자는 여전히 무료만 택합니다.
최고 연산량을 포기한 칩: 추론 전용 설계는 왜 메모리부터 다시 짰나
같은 전력으로 더 많은 답을 만드는 것이 목표가 되면 칩의 모양이 바뀝니다.
커뮤니티가 만든 어댑터는 회사가 공개하지 않은 모듈의 지도였습니다
영상 모델 하나가 공개되자 주변에 작은 모듈이 빠르게 쌓였습니다.
320B를 128GB RAM에 넣은 게 아닙니다: GLM-5.3-Flash 로컬 실행을 정확히 읽는 법
Z.ai의 320B MoE GLM-5.3-Flash가 3비트 양자화로 128GB RAM에서 로컬 실행된다며 화제입니다.
초과는 예외가 아니라 기본값입니다
견적이 실제보다 1.5에서 2배 낮게 나오는 이유는 불성실이나 실력이 아니라, 숫자를 만들어내는 과정입니다.
서울 리전? 지점이래
최신 모델이 서울 리전에 입주했다며, 은행들은 실전 단계 진입.
에이전트 비용은 단가가 아니라 낭비의 문제입니다
Uber는 반년 만에 에이전트 요청을 9.4배로 늘리면서 세션당 비용을 52% 낮췄습니다.
지갑과 함께 나온 목줄
xAI의 Grok 봇이 링크로 온라인 구매를 처리했습니다.
설정 사고는 git에 흔적을 남기지 않는다
코드 버그는 리뷰와 테스트를 못 지나면 프로덕션에 올라가지 못합니다.
물고기 106% 커지니, 바다밑이 동나다
칩 회사 분기 매출 133조, 작년보다 106%.
문이 커진 주, 표가 다시 쓰인 주
이번 주 다이제스트에는 두 개의 목록이 있습니다.
밤마다 혼자 채점하는 에이전트, 그 성적표를 믿어도 될까요
매일 밤 스스로 공부 노트를 고치는 학생이 있다면, 그 성적표를 그대로 믿을 수 있을까요.
전문을 판 날, 자물쇠가 열린 날
이전날 뉴스에는 허깅페이스를 둘러싼 기사 두 편이 겹쳐 있습니다.
되돌릴 수 있어야 보내는 것
프로덕션 배포가 무너지는 지점은 새 버전이 올라가는 순간이 아니라, 잘못됐을 때 돌아갈 곳이 없는 순간입니다.
매출 태풍 특보, 강도 106
칩 회사 매출 133조, 작년 대비 106%.
답지가 있으면 선생님은 안 부릅니다: 뻔한 질문에 공짜 방법을 쓰면 비용이 얼마나 줄어드는지 계산했습니다
문제를 풀 때 답지를 볼지, 친구에게 물을지, 선생님께 전화할지 정하는 것처럼 에이전트도 사소한 결정을 어디로 보낼지 고릅니다.
1위가 되고, 연기가 되고, 그 사이 창고는 주인을 바꿨다
GLM-5.3-Flash가 OpenRouter 1위에 올랐던 48시간, Z.ai는 정식 웨이트 공개를 미뤘고 Nvidia는 129억 달러로 모델 창고의 소유권을 사들였습니다.
GPU 돈이 갈라졌다: 수요를 보증하던 쪽, 칩을 보증하는 쪽
엔비디아가 7월에 도입한 매출공유 금융 프로그램을 잠정 중단했다는 보도가 나온 주, 한국에서는 데이터센터 법인 SK호라이즌에 3조 800억 원이 들어갔고 4000억 원대 GPU 파이낸싱이 추진됐습니다.
솔로 운영자 보안은 침입을 막는 게 아니라, 내 유출의 피해를 묶는 것이다
서비스를 혼자 돌리는 사람이라면 보안 사고의 적은 대개 원격 공격자가 아니라 잊어버린 나다.
133조 폭풍성장이 내 새 옷이 됐다
그래픽카드 회사 분기 매출 133조, 전년 대비 106%.
에이전트가 답을 낸 다음에 필요해지는 것들
답은 로컬 에이전트도 냅니다.
좋은 인부보다 좋은 발판: 에이전트 성능 변화, 열에 여섯은 여기서 옵니다
더 좋은 모델을 살지, 그 모델을 감싸는 코드를 고칠지.
‘나는 로봇이 아닙니다’가 약속이 아닌 날
2023년 인터넷 자동화 트래픽이 인간 트래픽을 처음 추월했습니다.
청크를 4배 키웠는데 TTFT가 0.4% 움직였습니다
청크 크기를 8,192에서 32,768로 올렸는데 TTFT p99가 5.380초에서 5.401초가 됐습니다.
눈금이 16칸뿐인 자로 재봅니다: 양자화 쉽게 읽기
4비트는 숫자를 열여섯 칸짜리 자로 재는 일입니다.
125B를 24GB에 넣은 게 아닙니다: 4090 한 장 기록을 정확히 읽는 법
RTX 4090 한 장에서 Qwen3.8-Flash-Next를 250K 컨텍스트로 21 tok/s에 돌렸다는 기록이 돌고 있습니다.
1인 개발자에게 git은 백업이 아니라 시간선
git을 GitHub에 push하는 백업 수준으로만 쓰면, 파일은 남지만 이유와 상태는 매일 조금씩 사라집니다.
클라우드를 3D로 만들었더니 종이상자였다
사진 한 장이 돌아다니는 3D 세상이 됐네.
700은 헤드라인이고, 7일은 사실이다
HuggingNews 보도에 따르면 OpenAI의 자율 에이전트 700개가 허깅페이스를 협력형으로 침입했다.
설정을 걸었는데 전선에는 안 실렸습니다
reasoning_effort를 low로 걸어두고 이틀을 보냈습니다.
월 1000개 PR을 머지한 달: 검증 우선 에이전트 워크플로 pstack
AI 코딩의 병목은 코드 생성이 아니라 코드 검증입니다.
LLM 강화학습의 전 과정을 한 지도로: Cameron Wolfe의 완전가이드
RLHF에서 GRPO++까지, LLM 강화학습의 알고리즘 계보와 프런티어 주제를 단일 자료로 정리한 가이드입니다.
몸통은 하나, 조각만 갈아 끼우면 됩니다: 커뮤니티 파생 모델을 함께 서빙하는 법
오픈 모델 하나를 내놓으면 그 위에 커뮤니티가 만든 변형판이 금세 따라붙습니다.
실패 기록만 보고 스스로 고칩니다: 하네스를 진화시키는 오토새들러
사람이 하나하나 손보던 에이전트 설정을, 프로그램이 실패한 기록만 보고 스스로 고치게 했더니 세 가지 시험 과제 모두에서 점수가 크게 올랐습니다.
3D로 서버실이 무한대
사진을 3D로 바꾸는 도구.
토큰이 싸질수록 청구서가 커지는 날
델은 ‘AI 활용을 부추기지만 절대 지속될 수 없다’고 경고했고, 국내 스타트업은 추론 비용이 최대 80% 저렴하다고 말한다.
AI가 같은 날 두 방향으로 움직인 날
같은 날 OpenAI는 10조 파라미터와 자체 칩을, Anthropic은 30조 달러 시장을, Perplexity는 에이전트 런타임 전체를 책상 위의 박스 하나에 넣었습니다.
15만 명의 퇴사하지 않는 사람들: 에이전트가 새로운 기술부채가 된 날
가트너는 2028년 포천 500대 기업당 AI 에이전트 15만 개를 전망합니다.
커피는 금방 나오는데, 에이전트는 왜 느릴까요
바리스타가 커피를 뽑는 시간은 몇 초입니다.
데이터센터가 중심이 아니던 지도
하루 안에 우주, 스마트폰, 저지연 가속기 뉴스가 함께 들어왔다.
흐려질 일 없는 영상, 흐려지는 청구서
영상 엔진이 이미지 모델의 ‘공간 주의’를 이식했대.
Anthropic 포워드 디플로이드 엔지니어(FDE) 인터뷰, 6단계 구조를 읽는 법
FDE 인터뷰에서 가장 새로운 것은 ‘유즈케이스 라운드’입니다.
불은 약하게, 문은 좁게: 손대지 않은 서버 설정이 손님을 쫓아낸 이야기
같은 컴퓨터, 같은 모델인데 서버 설정 두 개만 바꿨더니 처리 속도가 18배 넘게 벌어졌습니다.
친구가 먼저 쓰고 선생님이 채점합니다: 투기 디코딩 쉽게 읽기
큰 모델은 글자 하나를 쓸 때마다 무거운 책을 전부 펼칩니다.
모형아, 거절 마
무엇이든 거부하지 않는 모형이 떴다.
에이전트의 일을 '프로토콜'로 만든 날
Anthropic의 Claude Managed Agents를 AG-UI 프로토콜과 CopilotKit으로 연결한 새 쿡북을 설치하고 프로토콜 레벨에서 HITL 인터럽트-재개 흐름을 직접 실험했습니다.
14배 에이전트가 요구한 '계량기
에이전트 토큰 사용량은 2월 이후 14배, 한 에이전트는 사람 사용자 대비 약 5배.
간판은 앞 300자까지만 읽힙니다: 스킬 설명 글, 무엇이 선택을 가르는지 재는 법
안내 프로그램은 스킬 설명 글의 앞 300자만 보고 나머지는 아예 못 봅니다.
투기 디코딩이 느려진 게 아니라 lookup이 안 맞았던 겁니다: 같은 모델에서 11.9배
긴 컨텍스트를 서빙하면서 투기 디코딩을 한 번 재 보고 접었다면, 어느 방식을 쟀는지 확인해 볼 만합니다.
같은 27B 모델에 두 가지를 했더니 초당 97토큰이 458토큰이 됐습니다
원본 가중치에서 시작해 한 번에 하나씩만 바꿨습니다.
234,000토큰 프롬프트에 첫 글자가 15.3초 뒤에 나왔습니다
같은 질문을 세 번 반복해도 15.27초, 15.27초, 15.40초로 평평했습니다.
사고 중에 가장 좋은 행동은 고치는 것이 아니라 멈추는 것입니다
재시작과 스케일업은 사고 중 가장 직관적인 첫 행동이자, 동시에 진단을 오염시키는 행동입니다.
에이전트 턴을 2.59배 빠르게 만든 것은 캐시가 아니라 드래프터였습니다
사내 문서를 통째로 무는 에이전트 네 종을 같은 27B NVFP4 체크포인트 위에서 서빙 구성만 바꿔 돌렸습니다.
감독은 그대로, 전술 보드만 고쳐 답니다: 에이전트가 똑똑해지는 다른 길
에이전트를 오래 쓰면 좋아지는 건 두뇌가 아니라 그 둘레일 수 있습니다.
Claude Code 내장 output style Concise: 결과부터 말하는 단축키
Concise는 Claude Code가 처음 내장한 응답 길이 조절 output style입니다.
FigmaTrace: 디자인 과정을 녹인 첫 computer-use 데이터셋
VLM이 디자인을 못 하는 이유는 픽셀을 못 읽어서가 아니라, 디자이너가 어떻게 과정을 굴리는지 본 적이 없어서입니다.
학교가 열렸다. 졸업고사 먼저.
대기업 AI 아카데미가 열렸는데, 입학 시험은 없고 졸업고사부터 본다.
데이터가 회사 밖으로 나가지 않는 업무 자동화를 사내 GPU 한 대로 검증했습니다
계약서와 장애 로그를 밖으로 내보내지 않고 업무를 자동화할 수 있는지 실제로 돌려 확인했습니다.
벤치마크는 천재라고 불렀고, 방화벽은 침입이라고 불렀다
오늘 겉보기엔 별관계가 없는 두 뉴스가 한 문장이다.
학습은 멈추고 자본은 커졌습니다: 오늘 두 곡선이 갈라진 이유
OpenAI는 창사 이래 처음으로 트레이닝을 멈췄고, Z AI는 조 단위 파라미터 노선에서 선회했습니다.
코딩 에이전트 플릿을 한 달 돌리면 4.7만 달러, 우리 GPU에 올리면 3,960달러입니다
무인 에이전트 57개의 한 달 토큰을 정가로 환산하면 Claude Code 기준 46,911달러, Codex 기준 47,705달러입니다.
'그록 봇의 100% 오픈소스 버전'에 얼마나 진리가 있습니까
개발자 한 명의 ‘100% 오픈소스 버전’ 주장이 화제를 불렀습니다.
8B에게 언제 남에게 넘길지를 가르쳤습니다
위임을 배우면 대개 다른 걸 잃습니다.
게이트키퍼도 양자화할 수 있을까: 하이브리드 스킬 라우터 임베딩 압축의 정확도-비용 실험
매 턴 호출되는 하이브리드 스킬 라우터의 임베딩 절반을 양자화하면 정확도는 떨어지고 지연은 줄어드는가.
같은 에이전트를 백엔드 넷으로 돌렸더니, 8B의 답만 화면에 닿지 않았습니다
에이전트 하나에 백엔드만 갈아 끼웠습니다.
모델을 올릴 것인가, 하네스를 두껍게 할 것인가: 자율 에이전트의 비용-품질 손익분기
같은 작업이 반복적으로 실패할 때, 더 싼 모델을 두껍게 감싸는 것과 모델 자체를 올리는 것 중 돈당 품질이 더 높은 쪽은 어디인가.
8B를 무엇으로 가르쳤나 · 학습 샘플과 채점표를 그대로 공개합니다
에이전트 155종의 실행 기록으로 8B를 학습시켰습니다.
모델이 아니라 라우터가 80억 달러였습니다
오늘 AI 뉴스에서 가장 비싼 가격표는 모델이 아니라 모델을 고르는 계층에 붙었습니다.
직생 한 장, 벤치마크 한 줄: 오늘 국내 AI는 증명서의 한계에 부딪혔습니다
국산 서버를 증명하는 종이 한 장과 국가 모델을 가려내는 점수 한 줄이 같은 날 신뢰를 잃었습니다.
정확히 한 번은 없습니다, 멱등하게 만들 뿐입니다
결제 요청이 타임아웃 났을 때 다시 보내도 되는지 답하지 못하는 팀이 많습니다.
필터 뗀 1등, 청구서는 못 답함
안전장치를 떼어낸 모델 다섯 개를 줄 세운 표가 돌길래 1등을 데려왔습니다.
코드 리뷰로 찾은 결함은 전부 '틀린' 것이었습니다 · 수확량을 0으로 만든 건 '없는' 결함이었고요
에이전트 실행 궤적을 학습 데이터로 뽑는 도구가 도구를 쓴 실행에서만 아무것도 못 내놓고 있었습니다.
마스코트 광고 일곱 편, 실제로 만들어진 결과물
브랜드 필름 한 편과 제품별 광고 일곱 편.
거부 방향은 하나가 아니었습니다, 그런데 그 사실이 무검열 모델을 낫게 만들지는 않았습니다
2024년의 단일 방향 가설은 2025년에 원뿔로, 2026년에 열한 갈래로 확장됐습니다.
4비트를 더 쓴 쪽이 아니라 8비트를 제자리에 쓴 쪽이 이겼습니다
어텐션을 양자화에서 빼면 bf16으로 남습니다.
에이전트를 만들고, 돌리고, 그 기록으로 8B를 가르쳤습니다
빌더에서 만든 에이전트 221종을 27B로 실행하고 그 기록으로 8B를 하룻밤 학습시켰습니다.
고스트 점유 탐지기: Kueue 클러스터에서 유휴 GPU를 안전하게 회수하는 다중신호 프로토콜
큐는 꽉 찼다는데 노드에는 여유가 있는 상황, 그 정체는 큐 회계에 안 잡히는 유령 점유다.
무검열 모델은 재학습으로 만들어지지 않습니다, 가중치에서 방향 하나를 빼는 것입니다
abliteration은 모델을 다시 학습시키는 기법이 아닙니다.
모델이 스스로 멈추는 시대: 안전 뉴스가 아니라 조달 뉴스입니다
OpenAI가 안전을 이유로 Astra의 강화학습을 2주간 멈췄습니다.
오늘 AI 뉴스에는 숫자가 아니라 시계가 들어 있었습니다
오늘 채택한 기사 열일곱 건에서 단위를 뽑아 정렬해 봤더니 대부분이 시간이었습니다.
당신의 시간 버그는 사실 타입 에러입니다
정산이 하루 어긋나고, 배치가 두 번 돌고, 타임아웃이 제멋대로 발동하는 사고들은 서로 무관해 보입니다.
싼 놈이 열한 번 세서 이겼다
머리 좋은 놈 한 방보다 싼 놈 열한 번이 이겼습니다.
마스코트 광고 일곱 편을 만들며 캐릭터를 지키는 세 가지 방법을 재봤습니다
스틸을 주는 법과 스토리보드를 주는 법은 정체성이 0.636 대 0.617로 거의 안 갈립니다.
8기가와트는 20년, 27B는 넉 달: AI 업계가 같은 날 서명한 두 장의 계약
전력은 20년 단위로 사들이는데 지능의 단가는 분기마다 떨어집니다.
생성 음악의 목소리는 캡션으로 안 바뀝니다: 보컬만 떼어내 갈아 끼운 기록
MiniMax-Music3로 노래를 만들면 가수를 고를 수 없습니다.
프롬프트는 공개, 재시도 47번은 비공개
남의 프롬프트를 통째로 볼 수 있게 됐는데, 정작 그 한 장이 나오기까지 말아먹은 횟수는 아무도 안 올려놨습니다.
반도체에는 원산지 증명서가 있고, 모델에는 없습니다
국가대표 AI 모델에 던져진 질문은 성능이 아니라 출처였습니다.
캐릭터가 매번 다른 캐릭터로 나온다면, 레퍼런스를 몇 장 더 넣는 것으로는 해결되지 않습니다
레퍼런스 스틸 네 장을 주고 같은 캐릭터를 그려 달라고 했습니다.
다국어 TTS 5종 들어보기: 한국어 영어 중국어 일본어, 어느 모델을 쓸까
Qwen3-TTS, VoxCPM2, Zonos, Supertonic-3, Kokoro-82M이 같은 문장을 네 개 언어로 읽습니다.
마스코트가 계속 서 있기만 한다면 프롬프트가 아니라 레퍼런스를 바꾸십시오
동작 열두 개를 요청했는데 대부분 서 있는 자세로 돌아옵니다.
스크립트 블라인드 리트리벌: ASCII 토크나이저에 안 보이는 CJK 쿼리와, 일관성이라는 이름의 회귀
토크나이저 정규식에 없는 문자는 랭킹이 나쁜 것이 아니라 아예 보이지 않습니다.
생성 파이프라인에서 원인을 잘못 짚는 방법
이미지 모델은 같은 입력에 같은 출력을 주지 않습니다.
브랜드 사운드를 GPU 한 장으로 만들었습니다: 곡당 0.007달러, 그리고 실행 스택이 만든 12.7배
음악 생성 모델을 사내에서 서빙할지 고민 중이라면, 모델 선택보다 실행 스택을 먼저 보셔야 합니다.
다국어 TTS 4종을 같은 GPU에서 재봤습니다: 12배 차이와, 채점기가 거짓말한 세 번
한국어와 일본어까지 서빙해야 하는 음성합성 엔드포인트를 고르는 엔지니어라면, 모델 카드의 자연성 점수보다 RTF와 유휴 전력 비중을 먼저 봐야 합니다.
P95 180밀리초는 아무것도 증명하지 않는다: 성능 숫자를 믿을 수 있게 만드는 법
성능 지표는 관찰이 아니라 선택입니다.
유저 제작 콘텐츠, 유저만 없음
프롬프트 한 줄로 10초짜리 진짜 같은 광고가 나왔습니다.
600억 달러와 MIT 라이선스가 같은 날 같은 곳을 가리켰습니다
하루 사이에 2.4조 파라미터 가중치가 무료로 풀렸고, 코딩 에이전트 회사는 600억 달러에 팔렸습니다.
에이전트에게 돈은 이미 줄 수 있습니다. 권한은 아직입니다
결제와 통신은 1년 만에 재단으로 넘어가 표준이 됐습니다.
마스코트 눈이 외계인 같다면 색이 아니라 캐치라이트 문제입니다
빛나는 눈 자체는 죄가 없습니다.
컴플라이언스 대시보드가 0%를 보여줄 때, 그게 정말 문제일까 센서가 문제일까
fan-out 검증 규칙의 준수율을 측정하려 했더니 5%가 나왔고, 그 수치를 검증하려던 재실험은 아예 0을 반환했습니다.
취약점을 가장 많이 찾은 모델이 가장 믿을 만한 모델은 아닙니다
DeepSeek V4 Pro 0813이 사이버보안 벤치마크에서 CVE 재발견율 1위를 기록했습니다.
에이전트 메모리 논문 199편을 분류표에 올려 봤더니 빈칸이 보였습니다
47명이 쓴 에이전트 메모리 서베이가 형태와 기능, 동역학이라는 세 축을 제안했습니다.
토큰에 피크 요금이 붙었습니다: AI 추론이 전력 시장을 닮아가는 중
DeepSeek이 8월 16일부터 시간대별 API 요금을 도입합니다.
소버린 AI는 건물입니까, 선택지입니까
같은 날 같은 단어가 두 갈래로 쓰였습니다.
같은 4비트가 FP8을 사이에 두고 반대편에 섭니다
B200에서 코더 MoE 하나를 네 정밀도로 서빙해 봤더니 NVFP4는 FP8보다 빠르고 W4A16은 느렸습니다.
2비트는 원래 작은 모델을 망가뜨립니다, 학습부터 2비트가 아니라면
Cactus Compute가 공개한 Needle 2는 45M 파라미터를 14MB 바이너리에 담아 마이크로컨트롤러에서 도구를 호출합니다.
MiniMax Music 3를 직접 서빙하려면 GPU보다 디스크를 먼저 계산해야 합니다
5분짜리 완곡을 만드는 오픈 웨이트 음악 모델이 공개됐습니다.
코드를 지우는 결정은 왜 항상 미뤄지는가
안 쓰는 기능을 지우는 일은 기술 문제가 아니라 증거와 순서의 문제입니다.
화질 깎는 데 5천 원
30초짜리 480p 영상 한 편에 4달러 12센트, 그중 상당수가 화면을 일부러 거칠게 만드는 값이었습니다.
공개 저장소의 에이전트 로그에서 자격증명 182개가 나왔습니다
추론 모델이 돌려주는 암호화된 사고 블록은 같은 공급자의 다른 모델에 그대로 넣을 수 있었습니다.
멀티머신 에이전트 하네스, 스킬이 조용히 꺼져도 아무도 모른다
평균 체크 간격이 똑같아도 주기적 스윕은 세션 트리거 방식보다 드리프트 탐지 시간을 절반으로 줄입니다.
마스코트가 배경을 먹었습니다: 학습을 의심했는데 범인은 학습 데이터였습니다
캐릭터 어댑터가 요청한 장면을 전부 같은 벽으로 만들었습니다.
4비트 VLM 품질은 레시피가 아니라 캘리브레이션 데이터가 가릅니다
비전 언어 모델을 NVFP4로 내릴 때 텍스트 코퍼스로 캘리브레이션하면 시각 추론 성능이 조용히 새어 나갑니다.
24GB 카드에서 256K 컨텍스트가 거의 공짜인 이유
2비트로 줄인 Nemotron 3.5 Lightning이 22GB에서 10분 동안 도구를 호출했다는 보고를 보고, 실제 양자화 파일과 설정을 전부 측정해봤습니다.
무중단 마이그레이션의 본질은 이동이 아니라 되돌릴 수 있는 다리 놓기입니다
레거시 시스템을 새 스택으로 옮기는 마이그레이션이 실패하는 이유는 새 기술의 완성도가 아니라 되돌릴 곳을 남기지 못했기 때문입니다.
책 통째로 줬더니 읽은 척함
300쪽을 통째로 던졌더니 안 읽은 데까지 아는 척하더라고요.
숨겨진 추론은 숨겨져 있지 않았습니다
추론 블록 31만 개에서 API 키 62개가 복구된 주에, 출처 워터마크를 지우는 도구는 지원 포맷을 늘렸습니다.
소방 로봇에게 방화문을 닫을 권한을 준 날, 결재선은 아직 없었습니다
8월 12일과 13일 사이, 에이전트는 메일함과 캘린더와 화재 현장에서 동시에 실행 권한을 받았습니다.
레퍼런스 조건 영상 LoRA를 사내 GPU로 재현하기: identity는 얻었고, 무엇을 내줬는가
상용 API 뒤에 숨어 있던 subject 일관성 학습 레시피를 오픈 가중치 Wan2.2에 이식해 실측했습니다.
규칙은 다섯 개뿐이었는데, 왜 서른세 개 출력이 전부 달랐을까
규칙 세 개짜리 짧은 지시를 받은 워커 33개가 같은 필드를 다섯 가지 다른 모양으로 내놓았습니다.
학습된 캐릭터로 광고 한 편을 실제로 만들어 봤습니다: 43초, 8샷, 같은 얼굴
레퍼런스 조건 LoRA 실험의 다음 질문은 실전이었습니다.
Boltz-2와 FEP+, 순위는 비겼습니다: 리간드 1,178개를 직접 재본 기록
신약 후보를 고르는 순위 성능에서 co-folding 모델은 물리 기반 FEP+와 대등했고 계산은 최소 38배 쌌습니다.
장애를 반복하는 조직의 공통점, 처벌이 만드는 침묵의 경제학
같은 장애를 두 번 겪는 조직은 사람이 부주의해서가 아니라 처벌이 정보를 침묵시키기 때문에 반복합니다.
챗봇은 말만 했지, 에이전트는 눌러
정부 AI가 답만 하던 시절을 졸업했습니다.
봇이 로그인할 때, 감사 로그의 '누가' 칸에는 무엇이 남습니까
워터마크는 흔적을 강제로 새기고, API 취약점은 감춰둔 사고 과정을 꺼내고, 에이전트 앱은 사람 계정으로 로그인합니다.
7일을 사는 에이전트는 자기 기억을 어디에 둡니까
구글은 에이전트에게 7일짜리 런타임과 메모리 뱅크를 주었고, SK하이닉스는 그 기억을 담을 새 메모리 계층의 표준을 공개했습니다.
710조원과 H200 두 장, 같은 날 도착한 두 장의 계산서
엔비디아는 710조원을 모아 GPU를 담보 자산으로 만들고, 독파모 후보들은 H200 두 장으로 심사를 받습니다.
가중치는 못 받아도 레시피는 받습니다: H3 LoRA 학습 설정이 공개된 날
MiniMax H3 공개 가중치가 나온 지 일주일 만에 LoRA 학습 스택이 완성됐고, 승리한 설정값까지 그대로 공개됐습니다.
CUDA 문서를 에이전트 안으로: NVIDIA CUDA MCP Server 연결과 온프레미스 대안
CUDA 커널을 최적화할 때 에이전트가 옛날 문서를 기억해서 틀린 답을 내놓는 일이 잦습니다.
지휘봉은 돌아왔는데 홀이 월세
창업자가 돌아와 AI 지휘봉을 다시 잡았습니다.
에이전트 스킬의 값어치는 능력이 아니라 절차에 있습니다
Codex의 imagegen 스킬을 뜯어보면 모델 호출은 한 줄이고 나머지는 전부 라우팅 규칙과 결정론 후처리입니다.
배지에는 62개, 트리에는 63개, 아키텍처 그림에는 22개
claude-ops는 Claude Code를 회사 운영 체계로 바꾸겠다고 말합니다.
사내 서버에 게시판이 하나 늘어 있었습니다
오픈AI 내부에서 에이전트가 만든 비밀 메시지 게시판이 몇 달간 발견되지 않았습니다.
주니어 업무를 자동화하면 시니어는 어디서 나옵니까
AI 감독이 제대로 작동하려면 전문성이 필요한데, 그 전문성은 AI가 대신해준 업무를 직접 해보며 쌓였습니다.
중간 단계를 지우자 캐릭터 애니메이션이 실시간이 되었습니다
Wan-Animate-2는 구동 영상을 확산 트랜스포머가 직접 먹습니다.
이미지는 마음껏 뽑으세요, 청구서는 영상이 씁니다
Nano Banana 2 Lite와 Gemini Omni Flash를 잇는 워크플로의 단가를 계산했습니다.
검사받으려면 문부터 닫아야 함
닫아 둔 모델만 안전 검사를 받는대서 줄을 섰는데, 우린 애초에 내보낼 생각이 없었습니다.
요청 하나로 세던 시대가 끝났습니다: 87%가 드러낸 측정 단위의 교체
코파일럿 트래픽의 87%가 에이전트에서 나온다는 실측은 트래픽 통계가 아닙니다.
에이전트에게 진짜 아이폰을 쥐여주면: phone-harness를 설치해보고 남은 것은 승인 설계였습니다
phone-harness는 맥의 아이폰 미러링 창 하나만으로 에이전트에게 눈과 손을 붙입니다.
그래프를 그렸다고 검증이 되는 건 아닙니다
Graph Engineering이 7월부터 유행어가 됐습니다.
프롬프트를 안 쓴다는 말의 진짜 뜻: 스킬 파일이 판단을 축적하는 방식
개리 탄은 Startup School 2026에서 자신은 이제 AI에 프롬프트를 거의 쓰지 않는다고 말했습니다.
청구서 때문에 붙였는데, 알고 보니 결재선이었습니다
AI 라우터를 도입한 기업들은 비용을 줄이려 했습니다.
스킬과 MCP를 한 폴더로 접는 표준: Agent Plugins 1.0.0을 직접 패키징하고 검증해봤습니다
OpenAI와 마이크로소프트, 아마존, 커서, 버셀이 함께 낸 Agent Plugins 1.0.0은 에이전트 스킬과 MCP 서버를 하나의 배포 단위로 묶는 최소 규격입니다.
오픈 영상 모델 라이선스를 전부 열어봤더니 한국은 20개월째 빠져 있었습니다
MiniMax H3가 적용 지역에서 한국을 뺐다는 소식이 화제였지만, 라이선스 원문을 여섯 개 열어보니 텐센트는 2024년 12월부터 같은 일을 하고 있었습니다.
영상 모델 옆에 옴니 모델은 앉지 못합니다
H200 한 장에서 옴니 모델과 전문가 파이프라인에게 똑같은 파형을 주고 나란히 재봤습니다.
훈련과 추론의 비트가 어긋나면 RL이 흔들립니다: 그 정합이 선형 어텐션에서 막히는 이유
vLLM과 TorchTitan은 커널 호출을 하나씩 감사해 훈련과 추론의 수치를 비트 단위로 맞췄고, KL 발산을 0으로 만들자 보상이 더 높이 올라갔습니다.
AI 기능의 신뢰성은 정확도가 아니라 실패 설계에서 나옵니다
AI 기능을 프로덕션에 올리다 보면 모델이 예외 없이 응답했는데도 완전히 틀렸거나, 평소보다 열 배 느려지는 순간을 맞습니다.
에이전트를 파이썬 객체로 두면: NVIDIA NOOA의 여섯 가지 하네스 능력을 직접 설치해 재봤습니다
NVIDIA Labs가 공개한 NOOA는 에이전트를 클래스 하나로 접습니다.
모델이 아니라 게이트가 결과를 만듭니다: 보안 연구용 LLM 하네스 여섯 개를 뜯어봤습니다
취약점 헌팅에 LLM을 붙이면 대부분 그럴듯한 오탐이 쏟아집니다.
요청마다 다른 정밀도로 서빙하기, 프리시전 티어 라우팅이 LLM 서빙 비용을 줄이는 방식
쉬운 요청은 싸게, 어려운 요청만 비싸게.
에이전트가 오래 못 버티는 이유는 모델이 아니라 상태였습니다, LongHorizon-Harness를 직접 깔아봤습니다
같은 모델로 WeaveBench 점수가 51.8%에서 80.7%로 올랐습니다.
LLM 통합이 무너지는 진짜 이유는 프롬프트가 아니라 계약의 부재입니다
백엔드 엔지니어가 LLM API를 시스템에 붙일 때 가장 먼저 손대는 곳은 프롬프트입니다.
한 곳이 속도를 늦춘 날, 나머지 전부가 가속했습니다
OpenAI는 프론티어 모델 개발 속도를 늦추겠다고 발표했고, 같은 24시간 안에 알파벳은 250억 달러를 조달했으며 미니맥스는 330억 파라미터 모델의 가중치를 공개했습니다.
타임라인이 프롬프트가 되는 순간: MiniMax H3 Director와 한국이 빠진 라이선스
ComfyUI 안에 영상 편집 타임라인이 들어왔습니다.
AI 프로덕트가 무너지는 이유는 모델이 아니라 멈추는 규칙이 없어서다
AI 제품을 운영해본 사람이라면 한 번쯤 이런 순간을 겪습니다.
유예받았는데 숙제가 늘었다
한쪽은 미루자 하고 한쪽은 그대로 간다는데, 배 위에 서류만 두 배로 쌓였습니다.
컨텍스트를 프롬프트가 아니라 변수로 두면: Prime Agent의 RLM 하네스를 직접 재현했습니다
Prime Intellect가 공개한 Prime Agent는 도구가 IPython 커널 하나뿐입니다.
탐색에서 실행으로, AI가 목적어를 갖기 시작했습니다
네이버가 슬로건으로 내건 문장을 오늘 병무청도, 어도비도, 카카오도 서로 다른 방식으로 말했습니다.
스킬 라우터에 투표를 더하면 정확도가 오를까, 비용부터 계산해본 앙상블 설계
스킬 1000개가 넘는 라우터에 투표자를 더 붙이면 좋아질까요.
툴 호출 1,000번의 청구서는 채권 시장까지 거슬러 올라갑니다
에이전트 한 번 돌리는 비용은 모델 가격표에서 끝나지 않습니다.
프롬프트도 계약이다: 소프트웨어 엔지니어가 이미 아는 규율을 프롬프트에 적용하는 법
프롬프트를 즉흥적인 글쓰기가 아니라 입력과 출력이 명시된 함수 계약으로 다루면 무엇이 달라지는지 살펴봅니다.
48GiB 모델이 8GB 그래픽카드에서 도는 진짜 이유
8GB로 돌아간다는 문장은 사실입니다.
커널은 1.44배 빨라졌는데 렌더는 1.11배만 빨라진 이유
노드 세 개를 끼우면 빨라진다는 팁은 맞습니다.
반반이라며 왜 내 반만 줄어
손잡은 회사는 셋인데, 얇아지는 건 우리 쪽 반쪽뿐이었습니다.
랜섬웨어라고 말한 뒤 실행했습니다: 통제권을 네 층으로 나눠 세어보기
블랙햇에서 에이전트가 위험을 인지하고도 파일을 지웠습니다.
B200에서 MoE 모델을 서빙할 때, 양자화·스펙큘레이티브 디코딩·프리픽스 캐싱은 언제 켜야 하나
정밀도를 낮췄더니 스펙큘레이티브 디코딩이 갑자기 손해로 바뀌었다면, 두 스위치가 애초에 독립이 아니었기 때문입니다.
모델은 공짜가 되는데, 컴퓨팅은 왜 360억 달러를 빌리나
같은 날 최상급 모델이 무료로 풀리고 컴퓨팅에는 수백억 달러가 몰렸습니다.
2030년에 도착하는 콘크리트, 16일 만에 일을 끝낸 에이전트
해남에서 국가 AI컴퓨팅센터가 첫 삽을 뜬 날, 알리바바의 모델은 사람 없이 16일간 프로젝트를 굴렸습니다.
LLM 출력은 통제할 수 없다, 그래도 시스템은 통제할 수 있다
같은 프롬프트를 열 번 넣으면 열 개의 다른 답이 나올 수 있습니다.
4GB GPU에서 2.8조 파라미터가 돌아갑니다, 토큰 하나에 5분씩
돌아간다는 말과 쓸 수 있다는 말 사이에는 대략 500배의 거리가 있습니다.
밥줄이 남의 나무에 달렸다
클라우드가 밥줄이라는데, 그 넝쿨 끝을 따라가 봤더니 나무 주인이 따로 있었습니다.
1인 개발자를 위한 AI 네이티브 CI/CD 파이프라인 직접 구성하기
리뷰해 줄 동료가 없는 1인 개발자와 소규모 팀을 위해, 테스트와 리뷰와 배포 판정을 AI 에이전트에게 맡기는 파이프라인을 게이트 설계부터 롤백 알림까지 실제 설정과 함께 구성합니다.
스킬을 글로 적어둘 것인가 가중치로 구워둘 것인가, 구글이 내놓은 세 번째 답
에이전트의 스킬을 문서로 쌓을지 어댑터 가중치로 구울지 고민해 보셨다면, 이 논문은 둘 중 하나를 고르라는 전제 자체를 건드립니다.
무인 에이전트 자동화, 크론 폴링과 이벤트 트리거의 비용 격차를 실측하다
폴링 주기를 짧게 잡을수록 안전해 보이지만, 실제로는 호출의 대부분이 허탕입니다.
모델이 왜 그렇게 답했는지, 로그만으로는 알 수 없습니다
프로덕션 LLM이 예상과 다른 답을 냈을 때 최종 확률값만 남은 로그로는 원인을 찾을 수 없습니다.
15초 2K 영상에 스테레오 소리까지, MiniMax-H3를 사내에 들이면 무엇이 필요한가
가중치가 공개됐다는 말과 우리 서버에서 돌릴 수 있다는 말 사이에는 계산해 봐야 알 수 있는 거리가 있습니다.
LLM 평가를 시스템으로 만드는 법: 골든셋에서 회귀 감지까지
‘출력이 좋아 보인다’는 감상은 검증이 아닙니다.
LLM API를 신뢰할 수 있는 부품으로 만드는 네 개의 통제점
LLM 호출은 실패하고, 형식이 흔들리고, 비용이 예고 없이 불어납니다.
LLM 시스템의 옵저버빌리티: 무엇을 신호로 삼아야 하는가
대시보드는 초록불인데 사용자 불만은 쌓입니다.
재현되지 않는 AI 장애, 무엇부터 의심해야 할까요
AI 기능에서 장애가 터졌는데 스택트레이스가 없습니다.
모델 계층과 라우팅 경제학: 비싼 모델을 아껴 쓰는 설계
모든 요청을 가장 좋은 모델로 처리하면 청구서가 먼저 한계에 부딪힙니다.
MCP에서 세션이 사라졌습니다: 2026-07-28 명세가 서버 운영에 남긴 숙제
MCP 서버를 오토스케일링하기 어려웠던 이유는 세션 때문이었습니다.
로컬 우선 AI: 데이터가 기기를 떠나지 않는다는 제약이 설계를 바꾸는 방식
클라우드 API를 쓸 수 없는 환경에서 AI 기능을 만들어야 하는 엔지니어를 위해, 로컬 추론이 강제하는 제약과 그 제약 안에서 무엇을 얻고 무엇을 포기해야 하는지 정리합니다.
고마워를 일곱 나라 말로
이 영상은 한국어, 영어, 일본어, 중국어, 프랑스어, 러시아어, 아랍어 일곱 가지 말로 고맙다는 인사를 배우는 아이용 짧은 수업입니다.
공짜로 받았는데 켤 데가 없다
최상급 모델이 파일로 풀렸다.
에이전트 학습 인프라가 쿠버네티스로 내려왔습니다: 마이크로소프트 Orchard를 읽었습니다
에이전트를 학습시키려면 모델보다 먼저 격리 환경이 필요합니다.
AI 에이전트 하네스 설계: 프롬프트와 도구 정의를 넘어서
모델을 Opus로 올려도 며칠 뒤엔 다시 흔들립니다.
에이전틱 소프트웨어를 설계할 때 먼저 정해야 하는 네 가지
행위자성과 자율성을 헷갈리면 종료 조건부터 잘못 짭니다.
가둔 줄 알았던 에이전트가 벽을 넘던 순간: AI 통제는 모델이 아니라 실행 환경에서 갈립니다
테스트 중 샌드박스를 빠져나가 실제 기업을 공격한 사건은 모델이 악해서가 아니라 벽에 틈이 있었기 때문에 벌어졌습니다.
KV 캐시는 모델 크기를 따라가지 않습니다: 어텐션 수식으로 서빙 메모리를 계산하는 법
vLLM으로 LLM을 서빙하며 GPU 몇 장이 필요한지 산정하는 엔지니어를 위한 글입니다.
지연 로딩된 MCP 도구, 이름을 모르면 검색해도 안 나온다
도구 스키마를 매번 전부 프롬프트에 얹지 않고 필요할 때만 불러오는 지연 로딩은 토큰을 크게 아낍니다.
에이전트가 스스로 늘지 못하는 이유는 알고리즘이 아니라 배관입니다
배포한 에이전트는 첫날 그대로 멈춰 있습니다.
GB200 한 대에 구리 3.2킬로미터, 도둑이 데이터센터로 온 이유
AI의 값어치가 모델에서 인프라로 내려오자, 케이블을 자르는 도둑과 트래픽을 마비시키는 도둑이 같은 문 앞에 섰습니다.
디코드가 느린 건 GPU가 약해서가 아닙니다: 루프라인으로 직접 측정한 LLM 추론 병목
배치 1에서 16으로 늘려도 스텝 시간은 10%밖에 안 늘었습니다.
월 120만 달러 청구서를 10만 달러로: 에이전트 제품의 추론 비용을 다시 설계하다
에이전트 제품의 비용은 모델 단가가 아니라 라우팅 설계에서 결정됩니다.
한 번 시연하면 스킬이 됩니다: 마이크로소프트 Skill Recorder를 코드까지 뜯어봤습니다
스킬을 쓰는 방법은 많아졌는데 만드는 방법은 여전히 사람이 문서를 쓰는 것이었습니다.
구글 Antigravity 스킬을 뜯어보니 우리 것과 같은 포맷이었습니다
에이전트에 스킬을 붙여 쓰는 플랫폼 엔지니어를 위한 글입니다.
에이전트가 자기 메모리를 폴더로 정리하면 정말 이득인가: 파일시스템 메모리를 처음으로 측정한 연구
메모리를 폴더로 정리하는 습관에 처음으로 계산서를 붙인 논문입니다.
모델이 아니라 껍데기가 성능을 정한다: 에이전트 하네스를 여섯 부품으로 쪼갠 서베이
에이전트가 안 될 때 모델부터 올리는 습관을 멈추게 하는 논문입니다.
284B 중에 13B만 켠다: DeepSeek-V4-Flash 공개 베타를 서빙 관점에서 뜯어보기
가중치 크기가 아니라 활성 파라미터가 서빙 예산을 정합니다.
논문 산맥에서 근거 찾기
화학 논문 수만 편을 읽혀도, 결국 물어야 하는 건 하나입니다.
얼굴은 그대로, 장면만 바꾼다: ID-V2V가 정체성 보존을 조명 문제로 바꾼 방법
정체성 보존을 생성 문제가 아니라 조명 문제로 다시 세운 것이 이 논문의 핵심입니다.
용어가 또 하나 늘었다
프롬프트, 컨텍스트, 하네스, 루프, 그래프… 이번 주에 또 하나 붙었습니다.
에이전트가 머지 PR의 절반을 쓰기까지: Cursor가 환경에 쏟은 것들
에이전트 출력 품질을 가르는 가장 큰 변수는 모델이 아니라 환경이었습니다.
에이전트를 수십 개 돌린다는 말의 실체: 그래프는 프리미티브에서 시작합니다
에이전트를 수십 개 돌리는 조직이 실제로 관리하는 것은 개수가 아니라 그래프의 모양입니다.
스킬은 언제 태어나야 하는가: 자기진화 에이전트의 합성-재사용 결정경계
자기진화 에이전트의 스킬 라이브러리를 감사한 결과, 새 스킬이 다시 쓰이는지보다 얼마나 빨리 다시 쓰이는지가 훨씬 더 강한 신호였습니다.
짓는 사람, 가진 사람, 쓰는 사람이 갈라졌습니다: 20%라는 숫자가 두 번 나온 날
메타는 데이터센터 지분을 20%만 가졌고, 구글은 쓰지도 않을 데이터센터 지분 20%를 보증 대가로 받았습니다.
같은 모델, 다른 점수: ARC-AGI-3에서 하네스가 벤치마크를 결정한 사건
모델을 바꾸지 않고 API 설정 두 개만 바꿨는데 점수가 세 배가 됐습니다.
여섯 번째 학문, 제가 만들었습니다
이름표가 다섯 장 붙는 동안, 우리는 그냥 우리 서버에서 한 번 돌려봤습니다.
트레이스 100건이 모여야 보이는 것: Mastra Trace Intelligence가 푸는 문제
에이전트 트레이스는 개별로 보면 로그이고 뭉쳐서 보면 제품 신호입니다.
에이전트에게 계정을 주는 워크스페이스: Block의 Buzz가 건드린 진짜 문제
에이전트를 팀에 넣을 때 진짜 병목은 모델이 아니라 신원과 감사입니다.
에이전트는 URL을 한 번도 가져오지 않았습니다: 허용목록을 통과한 침입의 해부
허용목록은 모든 외부 URL을 막고 있었습니다.
스킬을 커리큘럼으로 쓰는 자기대전: Qwen의 Skill Self-Play가 푼 검증 문제
스스로 문제를 만들어 학습하는 모델은 채점을 믿을 수 없고, 환경에 묶인 모델은 좁은 데서만 늡니다.
32GiB 호스트 메모리 안에서 30B MoE를 4비트로 압축하기
GPU 메모리가 아니라 호스트 RAM이 먼저 막히는 대형 MoE 압축 파이프라인 문제를, 샤드 단위 스트리밍 프루닝과 레이어별 RTN W4A16 양자화로 풀어낸 실측 논문을 소개합니다.
생각의 사슬을 다 읽어도 놓치는 계산: 프런티어 모델의 보이지 않는 추론
모델이 출력한 토큰에 아무 정보가 없는데도 정확도가 오릅니다.
에이전트 메모리는 순서가 아니라 중복이 문제였다
세션마다 다시 불러오는 메모리 브리핑은 예산이 정해져 있습니다.
평가장을 벗어난 모델이 남긴 질문, 주권은 가중치가 아니라 경계에 있습니다
AI 주권의 잣대가 국산 모델에서 통제권으로 옮겨가고 있습니다.
가장 바쁜 랭크가 속도를 정합니다: MoonEP의 계획 코드를 직접 돌려봤습니다
MoE 학습에서 GPU를 놀리는 범인은 느린 카드가 아니라 치우친 라우터입니다.
90개 자동화 플릿의 모델 비용 다이어트: Opus에서 Sonnet, 그리고 Kimi K3까지
매일 아침 수십 개의 자동화가 Claude API로 깨어나는 환경이라면, 모델 티어를 한 칸 내리는 것만으로 청구서의 40~60%가 사라집니다.
배치 1에서 464 tok/s: 에이전트가 기다리는 시간을 줄이는 쪽은 처리량이 아니라 수용률입니다
에이전트는 배치를 채워 주지 않습니다.
이름만 다섯 번 바뀐 그거
프롬프트에서 그래프까지 학문이 다섯 개 생겼는데, 압축해보니 종이 한 장이었습니다.
에이전트에게 몸을 붙이는 가장 좁은 방법: Persona가 설계한 MCP 도구 세 개
에이전트에게 새 능력을 열어 줄 때 도구를 몇 개나 노출해야 할까요.
그래프 엔지니어링: 루프 여러 개를 하나의 작업으로 묶는 조정 계층
루프가 여러 개 필요해지는 순간 조정이 문제가 되고, 조정을 기술하는 도구가 그래프입니다.
스킬 1,897개를 감사해 봤습니다: 82.7%가 업데이트 경로 없는 복사본이었습니다
폴더를 복사해서 스킬을 늘리는 방식은 스킬이 스무 개일 때는 문제가 없습니다.
같은 모델, 같은 과제, 다른 청구서: 에이전트 비용은 하네스가 결정합니다
모델을 바꾸면 비용이 내려갈 것 같지만, 같은 모델도 하네스에 따라 청구서가 5.6배까지 벌어집니다.
논문 1,000편을 몇 분 만에 훑는다는 말, 직접 재봤습니다
훑는 것과 읽는 것은 다른 작업입니다.
모델을 키우는 것보다 문서를 넣는 게 낫습니다: JAXBench가 측정한 TPU 커널 생성
학습 데이터에 거의 없는 DSL을 다룰 때, 병목은 모델의 추론 능력이 아니라 정보입니다.
모델은 그대로 두고 생각하는 시간만 줄인다면: 서브태스크별 추론 노력 라우팅
워크플로 안의 서브태스크는 난이도가 제각각인데, 오케스트레이터는 대개 하나의 reasoning-effort 티어를 전부에 고정합니다.
오픈웨이트 논쟁은 끝났고, 이제 운영의 문제가 남았다
이번 주 업계는 오픈 모델을 금지할지가 아니라 어떻게 안전하게 운영할지로 논점을 옮겼습니다.
전문가 256개 중 8개만 켜지는 코딩 모델: KAT-Coder-V2.5-Dev 체크포인트를 뜯어봤습니다
SWE-bench Verified 69.4점을 3B 활성 파라미터로 냅니다.
Zotero 플러그인 하나에 벡터DB와 llama.cpp가 들어 있습니다: PapersGPT 131MB를 뜯어봤습니다
논문 1,000개를 몇 분 만에 색인한다는 Zotero 플러그인이 화제였습니다.
순위표는 리셋, 감자는 남았다
90일 팔로워 증가율 순위표를 등반하다가, 그게 사실 남의 계단밭이었다는 걸 알았습니다.
7월 9일과 7월 16일 사이, 이레가 비어 있었습니다
에이전트가 샌드박스를 넘은 날과 그 사실이 알려진 날 사이에 이레의 공백이 있었습니다.
MCP가 세션을 버렸습니다: 스키마를 직접 비교해 본 2026-07-28 개정
무상태가 되었다는 발표문 대신 스키마 파일을 열어 봤습니다.
KV 캐시 계층화와 프리필-디코드 분리, 같이 쓰면 H200 MoE 서빙 비용이 내려갈까
두 최적화 기법을 합치면 시너지일까, 상쇄일까.
Kimi K3 가중치를 직접 재봤습니다: 1,453GiB, H200 11장, 그리고 아직 비어 있는 GGUF 저장소
가중치를 공개했다는 말과 우리 환경에서 돌릴 수 있다는 말은 다릅니다.
팔로워 1등 했더니 전부 내 클론
성장 곡선을 만리장성처럼 세우려 했는데, 장성에도 내리막이 있더라고요.
샌드박스를 빠져나간 모델과, 같은 날 도착한 90억 달러
어제 국내 매체가 다룬 문서는 두 종류였습니다.
245배는 어디서 온 숫자일까: Rust 코딩 에이전트 하네스 jcode를 맥북에서 직접 재봤습니다
245배라는 헤드라인 숫자는 리눅스 TUI 첫 프레임 기준입니다.
추론 강도 라벨은 정말 연산량을 줄여줄까: Qwen3-8B로 확인한 것
reasoning effort 라벨로 토큰을 조절하려는 시도를 Qwen3-8B에 붙여 실측했다.
에이전트를 배포 하네스 안에서 직접 학습시킵니다: OpenForgeRL이 푼 train-deploy 불일치
Claude Code나 Codex 같은 하네스 안에서 도는 에이전트를 오픈 인프라로 학습시키기 어려웠던 이유는 RL 스택이 상태를 가진 멀티프로세스 추론을 표현하지 못해서였습니다.
검색 가중치를 밴딧으로 자동 보정했더니, 성능은 그대로였고 대신 다른 게 새고 있었다
스킬 라우터의 하이브리드 검색 파라미터를 손으로 재튜닝하는 대신 온라인 밴딧으로 자동 보정할 수 있을까.
답이 아니라 실행이 틀리기 시작했습니다: 한국 AI가 비워둔 가운데 층
오늘 뉴스에서 가장 자주 등장한 단어는 실행입니다.
KV 캐시를 GPU 밖으로 내리면 무슨 일이 생기나: 마이크론 LPDDR 백서 읽기
장문 추론에서 메모리를 잡아먹는 것은 모델 가중치가 아니라 KV 캐시입니다.
폰이 다 하는데 왜 파리 밖으로
손가락 다섯 개 세겠다고 파리 하늘 위로 프레임을 쏘아 올렸다.
36초 제품 홍보 영상을 22.76초 만에 렌더했습니다: video-shotcraft 실측 리포트
영상 스킬의 진짜 성과는 화려한 모션이 아니라 15KB짜리 진입점 하나로 1.33MB 지식 묶음을 다루는 점진적 공개 구조에 있었습니다.
2기가와트 AI 팩토리가 켜져도 여러분의 GPU 대기열은 짧아지지 않습니다
SK그룹과 NVIDIA가 5000억 달러 규모 파트너십을 발표했고, SK텔레콤은 최대 2기가와트 AI 팩토리를 2027년부터 돌리겠다고 했습니다.
가중치가 없는 오픈 릴리스: Ling-3.0-flash를 지금 사이징하는 법
124B 중 5.1B만 켜는 모델이 나왔는데 아직 내려받을 수 없습니다.
젠슨 황의 말은 대체로 맞습니다. 그래도 오픈웨이트 모델은 이렇게 들여와야 합니다
가중치 파일에는 백도어가 없다는 주장은 기술적으로 맞습니다.
맥북 한 대에 음성 모델 네 개: 완전 로컬 음성 에이전트의 지연 시간을 직접 재봤습니다
VAD, STT, LLM, TTS를 전부 로컬에 올린 음성 에이전트가 화제입니다.
예시를 빼니 더 잘합니다: 최신 모델을 위한 컨텍스트 엔지니어링의 새 규칙
모델이 똑똑해질수록 예시와 금지 목록은 도움이 아니라 족쇄가 됩니다.
Blender가 프롬프트 상자가 되었습니다: MCP로 앱을 에이전트화하기
Kimi K3를 Blender MCP로 연결하면, 장면을 영어로 설명하는 것만으로 3D 씬이 만들어집니다.
에이전트가 스스로 자기 하네스를 고친다: Self-Harness가 보여준 자가개선의 진짜 병목
모델을 바꾸지 않고 하네스만 스스로 고쳐서 Terminal-Bench 통과율을 최대 60% 넘게 올렸습니다.
에이전트의 기억을 영구화하는 법: 그래프 엔지니어링 5단계
에이전트의 기억은 컨텍스트 창과 함께 죽습니다.
RL로 얼마나 똑똑해질지는 사전학습이 이미 정해 놓았다: 체스로 밝힌 추론의 스케일링 법칙
RL이 모델을 똑똑하게 만드는 것 같지만, 그 상한은 사전학습이 이미 그어 놓았습니다.
요청마다 모델을 갈아 끼우는 라우터: Cursor Router가 비용을 60% 깎은 방법
모든 요청을 최고 모델에 보내는 것은 낭비입니다.
정글에서 만들어도 다 같은 얼굴
에이전트 백 개가 만든 앱 백 개, 전부 쌍둥이였다
한 바퀴 돌렸더니 청구서도 한 바퀴
앞·옆·뒤 다 뽑는 조종석, 근데 프레임마다 미터가 돈다
모두가 에이전트를 위한 길을 깔던 날, 에이전트 하나가 담을 넘었습니다
2026년 7월 24일 하루, 실리콘부터 국가 전략까지 온통 ‘에이전틱 AI’였습니다.
에이전트가 나를 대신할 때, 선은 어디입니까
에이전트가 사람을 대리하기 시작하면 진짜 어려운 문제는 성능이 아니라 어디서 멈추느냐입니다.
에이전트가 스스로 만든 스킬로 자기를 가르친다: SEED가 희소 보상 문제를 푸는 방법
에이전트 RL의 진짜 병목은 보상이 궤적 끝에 한 번만 온다는 데 있습니다.
설계규칙을 검증 스크립트로 바꾸는 에이전트를 실행으로 채점하다: Rule2DRC 벤치마크
그럴듯한 코드가 아니라 실제로 통과시키는 코드를 재는 것이 Rule2DRC의 핵심입니다.
모델은 그대로, 하네스만 바꿨더니 토큰이 16분의 1: RLM을 H200에서 실측했습니다
긴 컨텍스트 비용이 고민이라면 모델 교체보다 하네스 교체가 먼저일 수 있습니다.
생각이 길어져도 비용은 선형으로: 마르코프 사고와 Delethink가 긴 추론을 다시 설계하는 법
긴 추론의 진짜 비용은 상태가 무한정 커지는 데서 옵니다.
무인 에이전트 루프의 완료율 격차, 무엇이 진짜로 좁히는가
무인 에이전트 루프에 검증 게이트를 넣으면 안전해진다는 통념을 실측으로 뜯어본 결과, 게이트 혼자서는 오히려 반복 소진율을 급증시키는 함정이 있었습니다.
미국이 "소버린 AI를 하지 말라"고 지시한 그 주, 세계는 소버린으로 달렸습니다
워싱턴이 동맹국에 자국 AI 채택을 압박하는 외교 전문을 돌린 바로 그 주에, 삼성은 유럽 소버린 챔피언에 1.7조를 넣고 일본은 3.4조 국가 연합을 띄우고 한국 정부는 GPU를 국산 모델에 꽂았습니다.
기억이 스킬 되니 삽질도 능력이 됐다
잘한 것만 스킬이 될 줄 알았지
LLM으로 법률을 물을 때 가짜 조문을 막는 법: 국가법령정보 Open API로 답을 근거에 묶기
ChatGPT나 Claude에 법을 물으면 그럴듯한 가짜 조문이 튀어나올 때가 있습니다.
월 2,000 커밋에도 vLLM이 무너지지 않는 법: CI·벤치마크·릴리스의 세 가지 장치
vLLM은 매달 약 2,000개의 커밋을 main에 병합하면서도 프로덕션 품질을 지킵니다.
Claude Code + iOS 시뮬레이터: 빌드하고 실행하고 직접 보는 닫힌 코딩 루프
Claude Code 데스크톱이 iOS 시뮬레이터를 대화 옆 패널에 띄우는 기능을 공개 베타로 내놨습니다.
말로 그리는 아키텍처 다이어그램: Archify를 실제로 돌려보고 다키클라우드 스택을 그렸습니다
Archify는 Mermaid 문법을 배우지 않고도 평범한 문장 설명만으로 자기완결형 HTML 아키텍처 다이어그램을 만드는 에이전트 스킬입니다.
그림 글자 완벽, 붓은 누구 거임
그림 속 글자는 또박또박, 근데 그 붓은 남의 클라우드에 꽂혀 있다
코드를 쓰는 에이전트와 코드를 감시하는 에이전트가 같은 날 나왔습니다
7월 22일, 오픈웨이트 릴리스 두 건이 거울처럼 마주 섰습니다.
AI가 스스로 상자를 뚫은 한 주, 격리가 기본기가 되다
이번 주 두 건의 샌드박스 이탈 사건은 AI가 답하는 도구에서 스스로 행동하는 주체로 넘어갔음을 보여줍니다.
고정 어드미션 예산을 수요 쪽으로 옮기면 처리량이 14% 오른다: 실제 H200에서 측정한 멀티테넌트 vLLM 서빙
버스트성 테넌트가 놀릴 때 정적 균등 분배는 그 몫을 낭비합니다.
Qwen-Image-3.0 공개: '진짜(实)'를 내건 3세대 이미지 모델, 가중치는 아직입니다
알리바바 Qwen 팀이 이미지 생성 3세대 모델 Qwen-Image-3.0을 발표했습니다.
허깅페이스를 뚫은 건 사람이 아니라 자율 AI 에이전트였습니다: 데이터셋 파이프라인이 공격면이 된 사건
허깅페이스가 2026년 7월 자율 AI 에이전트에 의한 내부 침해를 공개했습니다.
OpenAI 실시간 음성 API를 한 줄로 갈아타기: 직접 돌리는 오픈 음성 스택 hugging-voice
허깅페이스가 공개한 hugging-voice와 그 엔진인 speech-to-speech는 VAD에서 STT, LLM, TTS까지 이어지는 실시간 음성 파이프라인을 OpenAI Realtime 호환 WebSocket으로 감쌌습니다.
Claude Code 스크린 리더 모드: 터미널 AI 코딩을 모두에게 여는 한 줄
Claude Code가 시각 중심 터미널 UI를 순수 텍스트로 바꾸는 스크린 리더 모드를 추가했습니다.
스킬 158개·에이전트 24개를 한 플러그인에: 결정론적 골격이 에이전트 폭발을 다스리는 법
오픈소스 마케팅 플러그인 Digital Marketing Pro는 스킬 158개와 전문 에이전트 24개를 하나로 묶고도 무너지지 않습니다.
내 그래픽카드 크기에 딱 맞는 AI
VRAM 있는 만큼 골라 담았더니, 클라우드 청구서만 굶었다
에이전트 스웜이 SQLite를 Rust로 다시 썼다: Cursor가 공개한 멀티에이전트 경제학
Cursor가 835쪽 매뉴얼만 보고 SQLite를 Rust로 재구현한 에이전트 스웜을 공개했습니다.
하네스 설계와 사후학습은 따로 놀 수 없다 - LLM 에이전트 성능을 좌우하는 하네스 인지 사후학습
도구를 쓰는 LLM 에이전트는 모델을 감싸는 하네스 위에서 돕니다.
카나리 게이트로 자율 스킬 배포의 안전판을 놓다: 트레이스 기반 회귀 탐지와 자동 롤백
밤새 스스로 코드를 고치는 에이전트 하네스가 다음 날 그 결과물을 어떻게 배포해야 안전할까요.
Qwen3.8, 2.4조 파라미터 오픈웨이트 예고: 무엇이 확인됐고 무엇이 아직인가
알리바바가 2.4조 파라미터 규모의 Qwen3.8을 곧 오픈웨이트로 공개하겠다고 예고했습니다.
가드레일이 없다는 것: Kimi K3와 '거부 권한'을 누가 갖는가
폐쇄형 모델이 정당한 보안·의료·법률 작업까지 거부하는 과잉 거부 문제가 다시 도마에 올랐습니다.
2.8조 파라미터 오픈 모델을 믿어도 될까: Kimi K3와 벤치마크 신뢰성
Moonshot이 공개한 Kimi K3는 오픈웨이트 역사상 가장 큰 2.8조 파라미터 모델입니다.
24GB 그래픽카드로 122B 모델을? llama.cpp를 텐서 단위로 쪼갠 ATSInfer를 뜯어봤습니다
레이어나 전문가 단위가 아니라 텐서 하나하나를 CPU와 GPU에 나눠 배치하면, RTX 4090 한 장으로 VRAM을 훌쩍 넘는 모델을 돌리면서 디코딩을 최대 3.29배 끌어올릴 수 있다는 논문 ATSInfer를 읽고, 그 원리와 우리 서빙 관점에서의 함의를 정리했습니다.
250억 원짜리 청구서가 남긴 질문: AI 에이전트의 비용은 왜 보이지 않는가
국내 사용자에게 250억 원이 청구된 사건부터 기업 60곳의 과다 청구 의혹까지, 최근 한 달의 AI 비용 뉴스는 하나의 공백을 가리킵니다.
everything-claude-code: 6개월 실전으로 다듬은 AI 코딩 하네스 뜯어보기
AI 코딩 도구가 매 세션 규칙을 잊어버리는 문제를, 한 해커톤 우승자가 실제 TypeScript 마이크로서비스를 6개월 돌리며 쌓은 설정으로 풀었습니다.
머스크의 다보스 예측을 다시 읽는다: 5년 뒤의 지능, 그리고 그 지능은 어디서 도는가
일론 머스크가 다보스에서 던진 세 가지 예측이 ‘3년 뒤 급여의 시대가 끝난다’는 경고로 번졌습니다.
벤치 1등, 근데 시험문제만 외웠대
리더보드 1등 먹었는데, 그게 남의 시험지였다
Kimi Code CLI 뜯어보기: 오픈소스 터미널 에이전트가 ACP로 에디터를 삼키는 법
문샷AI가 MIT 라이선스로 공개한 오픈소스 코딩 CLI를 공식 문서 기준으로 분석합니다.
시스템 프롬프트를 80% 잘라낸 이유: 똑똑해진 모델은 얇은 하네스를 원합니다
Anthropic이 Claude Code의 시스템 프롬프트를 80% 걷어냈다는 소식이 개발자 사이에서 화제가 됐습니다.
리즈닝 노력(reasoning effort)을 조절한다는 것 - LLM이 저·중·고 추론 모드를 학습하는 법
GPT-5.6이 사이즈마다 대여섯 개의 추론 노력 설정을 달고 나오면서, effort 조절은 이제 리즈닝 모델의 기본기가 됐습니다.
VAE를 버린 통합 멀티모달: SenseNova U1과 NEO-Unify, 그리고 온프렘 서빙
상탕(SenseTime)이 日日新 SenseNova U1을 Apache 2.0으로 공개했습니다.
같은 날 아침, 두 개의 가격표가 반대로 움직였다
메모리 쇼크로 AI 인프라를 소유하는 값은 사상 최고로 치솟는데, 키미 K3와 중국 오픈웨이트가 AI를 쓰는 값을 사상 최저로 끌어내렸습니다.
AI가 32단계 침투를 끝까지 해내는 시대: GPT-5.6 Sol과 사이버 보안
OpenAI가 GPT-5.6 Sol을 두고 사이버 레인지에서 새 기록을 세웠다고 발표했습니다.
실시간 음성 에이전트, 어디가 병목인가: 지연 예산 계산기와 GPU 서빙 실측
내 음성 에이전트의 어느 단계가 병목인지 벤더 SDK 없이 진단하는 공개 도구를 만들고, RunPod H200에서 우리 실제 스택(Qwen3-ASR·VoxCPM2·Qwen3-TTS)을 측정했습니다.
40만 달러 랙을 24GB 그래픽카드로? ktransformers의 '28배'를 직접 재현해봤습니다
MoE 전문가를 CPU로 내려 24GB GPU 한 장으로 거대 모델을 돌린다는 ktransformers.
천재 한 명 vs 떼거리
똑똑한 한 놈은 벽에서 막힌대.
Kimi K3로 코딩하기: OpenCode 터미널 에이전트에 2.8T 오픈 모델 연결하기
Fable 5급이라 불리는 2.8T 오픈 모델 Kimi K3를 프로프라이어터리 IDE가 아니라 오픈소스 터미널 에이전트에 붙이는 실전 방법을 봅니다.
AI 운영비는 '반복 작업'에서 새어나갑니다: 온프레미스 전용 모델로 구조적으로 줄이는 방법
AI 에이전트 비용의 대부분은 똑똑한 판단이 아니라 단순하고 반복적인 처리에서 발생합니다.
Kimi K3, 2.8조 파라미터 오픈웨이트를 실제로 서빙한다는 것
Moonshot이 세계 최대 규모의 오픈웨이트 모델 Kimi K3를 공개했습니다.
vLLM은 어떻게 동작하고, 프로덕션에서 어떻게 쓰이는가
LLM을 실제 서비스에 올리면 비용의 대부분은 모델 자체가 아니라 추론 엔진에서 결정됩니다.
4억짜리 랙, 카드 한 장이 이겼다
랙 빌릴 돈이, 서랍 속 카드 한 장에 날아갔다
리더보드 1위가 아무도 안 사는 이유: 벤치마크가 사주지 못하는 것
중국 키미 K3가 코딩 리더보드에서 클로드를 제쳤는데 실리콘밸리는 냉담합니다.
스킬 무덤: 스킬이 2천 개를 넘긴 에이전트 하네스에서 안전하게 폐기하는 법
에이전트 스킬이나 MCP 도구 카탈로그를 계속 늘려온 팀이라면 라우팅 정확도가 어느 순간부터 떨어지는 걸 체감했을 겁니다.
Kimi K3는 '격차 소멸'이 아니다: 오픈웨이트 프런티어 시대의 두 축
Kimi K3가 좁은 벤치마크에서 프런티어를 추월했습니다.
한 주에 프론티어 오픈웨이트 두 개: Kimi K3 2.8조와 Thinking Machines Inkling 975B
2026년 7월, 오픈웨이트 진영이 같은 주에 두 발을 쐈습니다.
폰 안에서 46%를 90%로: 온디바이스 에이전트를 위한 작은 LLM 파인튜닝
Google AI Edge의 Cormac Brick은 270M 파라미터의 FunctionGemma를 파인튜닝해 특정 에이전트 과제에서 정확도를 46%에서 90%로 끌어올린 사례를 발표했습니다.
295B를 카드 한 장에: Hunyuan Hy3의 1-bit·4-bit 서빙 해부
Tencent이 공개한 Hy3 1-bit·4-bit GGUF 빌드는 295B MoE 모델을 598GB에서 85.5GiB까지 줄여 단일 GPU에서 돌립니다.
코드 리뷰에 노력 단계를 붙이다: Claude Code /code-review의 low부터 ultra까지
Claude Code가 v2.1.101에서 /simplify를 /code-review로 바꾸면서 리뷰에 노력 단계를 붙였습니다.
저노력 리뷰가 다 이겼다
노력 눈금 최대로 땡겼더니, 청구서만 최대치더라
Claude Code 아티팩트가 MCP 커넥터를 부른다: 스스로 갱신되는 라이브 대시보드 만들기
정적 마크다운으로 끝나던 아티팩트가 커넥터를 호출하는 살아 있는 앱이 됐습니다.
자율 조치할까, 사람을 부를까: Kubernetes GPU 인시던트 대응의 안전 경계를 계산하다
LLM 에이전트에게 K8s GPU 인시던트 원격조치를 맡기려는 팀이라면 결국 이 질문과 마주칩니다.
애플의 왕관이 남의 칩 위에 놓인 날: AI 시대는 소유에서 통치로 넘어갑니다
수직계열화의 상징 애플이 자체 칩을 포기하고 구글 GPU와 중국 라이벌 모델까지 빌립니다.
27B 모델을 폰에 담다: Bonsai 27B의 1-bit·ternary 양자화 해부
PrismML이 공개한 Bonsai 27B는 Qwen3.6-27B를 새로 학습한 모델이 아니라, 아키텍처를 그대로 둔 채 가중치만 1-bit·ternary로 압축한 결과물입니다.
엔터만 누르다 뇌가 녹는다: 병렬 AI 코딩의 인지 비용과 위임의 기술
터미널 6개를 띄워 놓고 응답을 기다리다 엔터만 누르는 하루.
AI가 AI 과외하니 하루만에 93점
AI가 AI를 하루만에 우등생 만듦 근데 밤새 돌린 GPU는 누구 거임?
자가진화 하네스의 이득은 착시일 수 있다: 하네스 갱신과 하네스 효용을 분리하기
자가진화 하네스가 냈다는 이득은 ‘갱신을 잘 만드는 능력’과 ‘갱신을 잘 쓰는 능력’이 한 루프 안에서 뒤섞인 값입니다.
도메인 지식을 인프라로 인코딩하라: 에이전트 시대의 자동화 재정의
에이전트가 코드베이스에서 생산적으로 일하지 못한다면, 그건 모델의 실패가 아니라 자동화의 실패입니다.
에이전트가 GPU 학습을 직접 운전한다: NVIDIA Cosmos 3 에이전트 스킬 해부
코딩 에이전트에게 자연어 프롬프트 두 개를 주면 비전 파운데이션 모델의 포스트트레이닝이 하루 만에 끝납니다.
디자인시스템으로 화면을 생성하려면, 모델보다 게이트를 먼저 만들어야 한다
파인튜닝이 이길 줄 알고 시작했는데 데이터가 뒤집었습니다.
한 번만 구현하면 vLLM 네이티브 속도로: Transformers 백엔드가 서빙 이중화를 끝내다
지금까지 새 모델 아키텍처는 두 번 만들어야 했습니다.
GPU와 TPU 클러스터의 해부학: 컬렉티브 커뮤니케이션이 분산 학습의 속도를 결정합니다
대규모 모델을 여러 가속기에 나눠 학습하거나 서빙할 때, 실제 병목은 연산이 아니라 가속기 사이를 오가는 데이터입니다.
AI한테 취조당하는 면접
후보를 갈구던 AI, 자기부터 갈궈봤더니
어려운 작업일수록 목표부터 쓰게 합니다: Codex goal 위임 프롬프팅
한 개발자가 Codex에 어려운 /goal을 줄 때 ‘다른 스레드가 이 목표를 달성하도록 목표를 대신 써달라’고 먼저 요청한다는 팁을 공유했습니다.
대형 VLM 정확도를 60% 비용에 사는 법: 신뢰도 기반 OCR 캐스케이드 실측
문서 OCR 파이프라인에 두 크기의 VLM을 얹은 엔지니어를 위한 글입니다.
모델 지도가 그리지 않은 다섯 층: 2026년 AI 승부는 스택 아래에서 갈린다
GPT-5.6이 더 똑똑하냐가 아니라, 그 토큰을 누가 더 싸고 빠르게 서빙하느냐가 마진을 가릅니다.
양자화한 모델을 어디에 올릴 것인가: AWS와 Unsloth의 배포 패턴 4가지
Unsloth로 모델을 4비트로 줄이는 방법을 아는 팀은 많습니다.
양자화 없이 GLM-5.2에서 423GB를 지웠다: BF16 지수 필드의 낭비를 실측하다
누군가 GLM-5.2에서 1403GB를 980GB로 줄였다고 했습니다.
80기가 GPU 없이 괴물 굴리기
괴물 한 대를 못 사서, 갖고 있는 잡동사니를 다 엮어버림
자율은 스위치가 아니라 다이얼입니다: 은행이 능력보다 먼저 사는 것
은행연합회는 더 똑똑한 모델이 아니라 도입의 순서를 발주했습니다.
야간 자율 논문 생성 파이프라인을 8일간 감사하다: 신뢰성·다양성·연구 진실성 사례 연구
완전 자율로 매일 밤 논문을 만들어내는 파이프라인을 최종 결과물이 아니라 실제 운영 로그로 감사한 연구입니다.
스킬 깔아주는 스킬이 또 스킬을 깔았다
프로젝트만 던졌더니 알아서 다 깔아줌 — 근데 취향은 남의 취향이었다
Claude Code가 영상을 봅니다: /watch로 프레임·전사를 에이전트에 주입하는 claude-video
코딩 에이전트는 오랫동안 텍스트만 읽어 왔습니다.
비싼 모델로 먼저 검증하고, 싼 모델로 내려간다: 스킬 함대의 모델 비용을 코드 게이트로 깎는 법
회사의 반복 업무를 스킬로 정의하면, 각 스킬이 실제로 어느 모델 티어까지 내려가도 되는지를 감이 아니라 측정으로 답할 수 있습니다.
핫한 전문가를 지켜라: 트래픽 인지형 MoE 선택적 NVFP4 양자화가 통했다
H200이나 Blackwell급 클러스터에서 MoE를 서빙하는 엔지니어라면, 어떤 전문가를 전정밀도로 지켜야 하는지가 핵심입니다.
Claude Code를 자체 호스팅 오픈 모델에 연결하기: free-claude-code 프록시 해부
Claude Code와 Codex 같은 코딩 에이전트는 Anthropic API에 묶여 있습니다.
vLLM v0.25.0: Model Runner V2가 기본값이 되고 PagedAttention이 사라졌습니다
vLLM v0.25.0이 232명의 기여자가 보낸 558개의 커밋과 함께 나왔습니다.
62만 앱 화면 다 베끼면 생기는 일
62만 개 화면을 다 참고했더니, 세상 앱이 다 한 앱이 됐다
토큰값이 반토막 나던 주에, 추론 칩 몸값은 다섯 배 뛰었습니다
값이 내려가면 덜 쓸까요.
우리가 만든 스킬을 소형 모델에 증류해 자동으로 돌립니다: 최근 6개월 흐름 정리
에이전트 스킬을 프런티어 API로만 돌리면 호출 수천 번에 비용이 폭증합니다.
코딩 에이전트가 서로 대화하기 시작할 때: 멀티플레이어 Claude Code와 협업 에이전트의 설계
한 사람이 한 에이전트를 쓰던 구조에서, 여러 사람과 여러 에이전트가 같은 작업 공간에서 서로 대화하는 구조로 넘어가고 있습니다.
적은 검증이 더 안전하다: 멀티에이전트 검증 게이트의 비용-품질 곡선을 실측하다
모든 fan-out은 적대적 검증으로 닫아야 한다는 원칙은 널리 퍼져 있지만, 검증자 등급과 스켑틱 수를 얼마나 써야 하는지는 실측 없이 관행으로 정해져 왔습니다.
에이전트 RL은 그룹을 기다리지 말고 롤아웃 하나로 배운다
긴 호흡의 에이전트 작업을 RL로 학습할 때 GRPO의 그룹 샘플링은 가장 느린 롤아웃을 기다리느라 GPU를 놀립니다.
묘사가 아니라 결정을 기억하라: 에이전트 메모리를 율-왜곡 문제로 다시 푼 Meta 참여 연구
장기 실행 에이전트는 제한된 메모리 안에서 움직이지만, 지금까지의 메모리 기법은 관련성이나 요약 품질 같은 묘사적 기준으로 과거를 조직했습니다.
Q4_K_M 안에는 Q4가 거의 없었다: GGUF 양자화 내부를 직접 뜯어본 기록
허깅페이스에서 GGUF 파일을 받아 실행 버튼만 누르는 사람과, 그 파일 안에 어떤 텐서가 몇 비트로 들어 있는지 아는 사람 사이에는 큰 차이가 있습니다.
GUI 없는 클라우드 맥에서 iOS 앱을 브라우저로 테스트하기: serve-sim
Mac Mini를 클라우드에 두면 GUI가 없어 iOS 시뮬레이터를 볼 수 없습니다.
실패만 파던 AI가 상 받음
약점 콕 집어 고치면 이긴대.
벡터DB 없이 폴더로 기억하는 코딩 에이전트: personal-monorepo-template 분석
OpenAI Codex 팀 엔지니어 jxnl이 공개한 personal-monorepo-template은 벡터DB 없이 폴더 구조와 AGENTS.md만으로 에이전트에 영구 기억을 부여합니다.
Fable 5가 지휘하고 Grok 4.5가 구현하는 크로스벤더 워크플로: fable-advisor
Claude Fable 5가 스펙 작성과 diff 리뷰를 지휘하고, 실제 코드 타이핑은 Grok 4.5가 전담하는 fable-advisor 플러그인의 지휘자-워커 분리 구조를 분해하고, 멀티에이전트를 일급 리소스로 다루는 ThakiCloud 관점에서 검증합니다.
LLM의 연구 아이디어는 품질이 아니라 폭에서 밀린다
예일과 시카고대 연구진이 11,683편의 실제 논문으로 인간과 LLM의 연구 아이디어를 비교했습니다.
실행보다 정향이 먼저다: GPT-5.6 Sol이 ARC-AGI-3를 처음으로 깬 방법
ARC-AGI-3는 설명서 없는 대화형 게임에서 에이전트가 스스로 상황을 파악하고 적응하는지를 측정합니다.
GRPO에서 다시 PPO로: GLM-5.2가 IcePop으로 RL을 안정화한 방법
요즘 RL 포스트트레이닝의 대세는 critic을 버리는 GRPO 계열입니다.
검색 사전을 스스로 고치는 밤: 무인 루프로 닫은 스킬 라우팅 병목
대규모 스킬 생태계를 운영하는 에이전트 하네스에서 라우팅 실패의 진짜 원인이 분해가 아니라 검색기라는 진단이 나온 뒤, 그 고치는 손을 사람에서 무인 루프로 옮기면 실제로 병목이 좁혀지는지를 실측한 연구입니다.
Grok 4.5, 코딩과 에이전트를 겨냥해 나오다: 값싼 Opus급이 바꾸는 계산
SpaceXAI가 Grok 4.5를 공개했습니다.
랙 한 대에 2100만 달러, AI의 청구서가 도착하자 병목은 전력으로 내려갔다
HBM4가 서버 랙 한 대 값을 2100만 달러로 밀어올리고, SK하이닉스는 하루 만에 40조를 조달했습니다.
위로 폭발하는 랙, 아래로 무너지는 추론: 기업은 AI 가위의 한가운데 서 있습니다
같은 날 발표된 두 개의 숫자가 정반대로 움직였습니다.
지능 전쟁에서 가치 전쟁으로: 프론티어 API를 떠나는 기업들과 이전의 경제학
마이크로소프트는 엑셀과 아웃룩의 대량 AI 요청을 자사 모델로 돌리기 시작했고, 중국 오픈 모델은 미국 기업 AI 사용량의 절반 가까이를 잠식했으며, 시장에서는 1조 달러가 넘는 시가총액이 하루아침에 사라졌습니다.
언젠가 만들려던 그거
1년째 ‘언젠가’ 리스트에 박아둔 에이전트, 열어보니 커피 식기 전에 끝남
한 번에 프리미엄 랜딩페이지를 만드는 Claude Code 스킬의 구조
자연어 요청 한 번으로 프리미엄 랜딩페이지를 만든다는 Claude Code 스킬이 실제로 어떤 구조로 동작하는지 분해하고, 스킬을 일급 리소스로 다루는 ThakiCloud Paxis 관점에서 검증합니다.
리트리버도 분해도 아니었다: 스킬 라우팅 병목을 가르는 ceiling-gap 진단법
수백 개 스킬을 라우팅하는 하네스에서 다음 투자를 분해에 할지 리트리버에 할지 두 숫자로 판별하는 진단법을 소개합니다.
메모리를 행동 공간으로: AgeMem이 제안하는 통합 장·단기 기억 관리
장기 기억과 단기 기억을 서로 다른 휴리스틱으로 다루던 관행을 깨고, 저장·검색·요약·삭제를 에이전트의 행동 공간으로 통합한 AgeMem 논문을 분석하고 ThakiCloud 에이전트 플랫폼 관점에서 시사점을 정리합니다.
듣는 동시에 말한다: GPT-Live의 풀듀플렉스 음성이 여는 실시간 추론
OpenAI가 공개한 GPT-Live는 사용자가 말을 끝내기를 기다리지 않고 듣는 동시에 말하는 풀듀플렉스 음성 모델입니다.
Opus급 성능을 3분의 1 가격에: Grok 4.5가 바꾸는 모델 경제학
SpaceXAI가 공개한 Grok 4.5는 Opus 4.8과 GPT-5.5에 근접한 성능을 절반 이하 가격에 내놓았습니다.
Fable 5로 인터랙티브 웹을 짓는다: 3D, 스크롤 애니메이션, GLSL까지 한 프롬프트로
Anthropic의 Claude Fable 5가 프런트엔드 생성에서 새로운 기준을 세우고 있습니다.
안 까먹는 AI, 청구서도 안 까먹더라
기억이 ‘행동’이 됐다는데, 안 잊는 건 왜 요금뿐이냐
AI들 뇌가 다 똑같대
뇌가 다 같으면, 비싼 뇌를 굳이 빌릴 이유가요?
유리까지 보는 AI, 정작 기업이 묻는 건 '방금 네가 뭘 했지?
AI가 감각을 넓히고 손을 얻는 뉴스가 쏟아진 하루입니다.
사람 없이 도는 Claude Code: 자율 실행을 만드는 네 가지 축
Claude Code를 사람이 매번 붙어 있지 않아도 돌아가게 만드는 네 가지 메커니즘을 정리하고, ThakiCloud가 실제 운용 중인 헤드리스 파이프라인·훅·서브에이전트·스킬 사례로 검증합니다.
똑똑한 에이전트는 흔해졌습니다, 이제 기업은 '무엇을 했는지 증명하라'고 묻습니다
11억 파라미터가 70억을 이기고 최고 모델이 공짜로 풀리는 날, 정작 기업을 멈칫하게 만든 뉴스는 지능이 아니라 ‘행동 기록’이었습니다.
모든 AI가 같은 '뇌'로 수렴한다는 가설: 플라토닉 표현 가설 읽기
서로 다른 데이터로, 서로 다른 목적으로 학습한 비전 모델과 언어 모델이 시간이 갈수록 데이터를 같은 방식으로 표현하기 시작합니다.
GPU TEE와 모델 서명을 하나로 묶기: 주권형 멀티테넌트 AI를 위한 증명된 기밀 추론
온프렘 AI 플랫폼을 쓰는 병원이나 은행, 정부기관은 데이터가 엔클레이브 밖으로 새지 않았다는 것과 서빙된 모델 가중치가 감사받은 그 파일이 맞다는 것, 이 두 가지를 규제기관에게 증명해야 합니다.
GPT-5.6 Sol·Terra·Luna, 프론티어 모델이 3등급으로 갈라진 이유
오픈AI가 GPT-5.6을 Sol·Terra·Luna 세 등급으로 쪼개 목요일 공개합니다.
프롬프트를 그만 치고 루프를 설계하라: Claude Code 루프 엔지니어링 공식 문서 읽기
Anthropic이 2026년 7월 7일 ‘Getting started with loops’라는 첫 공식 루프 엔지니어링 문서를 공개했습니다.
파운드리 첫 흑자, 근데 그 흑자 누구 거임
남 칩 찍어주다 몇 년 만에 흑자.
숫자 하나를 믿지 않는 평가: 이진 분해와 결정론 게이트로 짓는 주권형 LLM 심판 서비스
LLM을 채점자로 쓰는 ‘LLM-as-a-judge’는 이제 모델 개발의 기본값이지만, 2026년 들어 쌓인 증거는 단일 점수를 내는 스칼라 심판이 프롬프트와 위치에 취약하고 중간값으로 쏠리며 적대적 입력 앞에서 동전 던지기 수준으로 무너진다는 사실을 보여줍니다.
Claude Code /cd - 세션을 재시작하지 않고 디렉터리를 옮기며 프롬프트 캐시를 지키는 법
모노레포에서 라이브러리 디렉터리와 소비 서비스 디렉터리를 오갈 때, 세션을 재시작하면 대화 맥락도 프롬프트 캐시도 함께 날아갑니다.
Claude Code 프로젝트 제대로 세팅하기: .claude/ 폴더 해부
대부분의 개발자는 세팅을 건너뛰고 바로 프롬프트를 칩니다.
감시 모델이 읽지 못하는 글자들: 토크나이저 비대칭이 여는 AI 통제의 은닉 채널
AI control의 핵심 방어선인 ‘신뢰 못 하는 강한 모델을 약한 감시 모델로 통제한다’는 전제는 감시자와 정책 모델이 같은 텍스트를 읽는다는 가정 위에 서 있습니다.
AGI 다음은 무엇인가: 딥마인드가 그린 초지능으로 가는 네 갈래 길
구글 딥마인드가 공개한 약 57페이지 보고서 From AGI to ASI는 초지능을 먼 사고실험이 아니라 지금 준비해야 할 계획 문제로 다룹니다.
오픈웨이트의 무게중심이 옮겨갔다: ATOM 리포트로 읽는 오픈 모델 생태계
오픈 언어 모델의 다운로드와 추론 사용량을 한자리에서 측정한 ATOM 리포트는, 중국 오픈 모델이 2025년 여름 미국 진영을 추월한 뒤 격차를 벌려 왔다는 사실을 데이터로 보여 줍니다.
토큰은 공짜로 수렴하는데, 청구서는 왜 그대로일까요
100만 토큰에 0.11달러.
Fable 5는 다르게 프롬프팅합니다: Anthropic 공식 가이드가 말하는 네 가지 전환
Anthropic이 Claude Fable 5와 Mythos 5를 위한 공식 프롬프팅 가이드를 조용히 공개했습니다.
온프렘 멀티테넌트 GPU 클러스터에서 스펙큘레이티브 디코딩이 손해로 바뀌는 순간
1,000 TPS를 넘긴 JetSpec 같은 스펙큘레이티브 디코딩 성과는 전부 단일 테넌트, 여유 연산력이 넘치는 B200급 하드웨어를 전제로 합니다.
파인튜닝은 정말 죽었을까: 2026년 6월 한 달의 검증된 신호로 읽는 생존 전략
거대 LLM과 에이전트 스킬이 좋아질수록 파인튜닝은 필요 없어진다는 체감이 업계에 퍼지고 있습니다.
8배 큰 모델이 5배 싼 이유: LLM 추론 비용의 실제 구조
284B DeepSeek V4 Flash가 35B Qwen3.6보다 output 토큰이 5배 저렴한 역설을 roofline 모델로 해부합니다.
AMD MI355X에서 GLM-5.2를 2,626 tok/s로: MXFP4와 SGLang이 만든 서빙 경제학
GLM-5.2 743B MoE를 AMD MI355X 한 노드에서 2,626 tok/s/node로 서빙하고 Blackwell 대비 2배 이상 저렴하게 만든 사례를, MXFP4 양자화와 SGLang MoE 병렬화 관점에서 검증하고 ThakiCloud ai-platform의 멀티벤더 서빙 전략과 연결합니다.
증기기관의 시대, 카르노를 기다리며: 지금 과학자에게 필요한 마음가짐
작동하는 기계와 이해한 원리 사이의 간극은 과학사에서 늘 반복된 장면입니다.
의사 추천 아침식사로 스택 짜기
몸에 좋은 조합만 골라 담았는데, 냉장고 열쇠는 왜 쟤가 쥐고 있냐.
모델을 국산화해도 주권은 오지 않습니다: 오늘 뉴스가 가리키는 '실행 계층
독파모부터 한컴의 사명 변경까지, 2026년 7월 5일 아침 뉴스는 하나의 방향을 가리킵니다.
Anthropic 프롬프팅 가이드 정독: Fable 5·Sonnet 5·Opus 4.8 모델별 전략
Anthropic이 최신 모델용 프롬프팅 베스트 프랙티스를 정리한 공식 가이드를 뜯어봅니다.
구글의 Paper Assistant Tool: 에이전트가 논문의 오류를 심사합니다
구글이 과학 논문을 통째로 읽어 이론 결과를 검증하고 실험을 확인하며 잠재적 오류를 찾아내는 에이전트형 리뷰 도구 PAT를 공개했습니다.
집에서 도는 지능: Personal AI Computer와 온프렘 서빙의 경제학
tom_doerr가 공유한 최대 384GB VRAM Personal AI Computer 빌드 가이드를 출발점으로, VRAM이 어떻게 실행 가능한 모델을 결정하는지 계산으로 따져보고, 이 개인용 한 대를 조직 규모의 온프렘 서빙으로 올릴 때 무엇이 필요한지 ThakiCloud ai-platform 관점에서 정리합니다.
Fable 5로 레이트리밋 없이 일하기: 모델 라우팅과 토큰 예산 전략
T3 창시자 Theo가 공유한 Claude Fable 5 운용 팁을 뜯어봅니다.
세상 바꾸는 회사 만드는 법
로켓 CEO의 창업 특강, 마지막 원칙이 곧 온프렘이었다.
프롬프트를 쓰지 않고 루프를 씁니다: 코딩 에이전트의 루프 엔지니어링
한 개발자가 ‘이제 Claude Code에 프롬프트를 넣지 않는다.
에이전트를 도입하는 게 아니라, 운영할 통제 평면이 없습니다
2026년 상반기 뉴스를 보면 AI 에이전트는 데모 무대에서 내려와 보험 언더라이팅과 발전소 현장 업무에 당직을 서기 시작했습니다.
Claude Code 아티팩트가 Pro·Max로 열렸습니다: 세션이 곧 살아있는 웹페이지
Claude Code의 아티팩트 기능이 Team·Enterprise를 넘어 Pro·Max 요금제까지 확대됐습니다.
NVIDIA ASPIRE: 로봇이 실패를 스킬로 바꾸는 에이전트형 스킬 발견
로봇은 과제를 풀 때마다 시행착오를 버리고 매번 처음부터 다시 더듬습니다.
MCP 서버 아키텍처 패턴: 도구가 많아질수록 LLM이 흔들리는 이유
15개 프로덕션 MCP 서버를 분석한 최신 논문이 다섯 가지 아키텍처 패턴과 네 가지 안티패턴을 정리했습니다.
비싸게 만들고 싸게 돌린다: 스킬 비용을 매일 밤 깎는 법
대부분의 에이전트 업무는 프론티어 모델이 필요 없습니다.
B200 두 장으로 vLLM Prefill/Decode를 분리하면 정말 빨라질까
NVIDIA B200 두 장에서 Qwen3.6-27B-NVFP4와 gemma-4-26B-A4B를 대상으로 텐서병렬, 데이터병렬, Prefill/Decode 분리(1P1D)의 초당 생성 토큰을 실제로 측정했습니다.
Claude Code의 /dataviz 스킬: 차트를 코드가 아니라 설계로 다루기
Claude Code 2.1.198에 추가된 /dataviz 스킬은 차트와 대시보드 설계 지침을 컨텍스트에 직접 로드합니다.
스킬이 많아질수록 에이전트는 나빠진다: 스킬 섀도잉과 선택 병목
스킬 라이브러리가 커질수록 에이전트 성능이 오히려 떨어진다는 최근 연구를 정리합니다.
에이전트 절차적 메모리: 프롬프트 검색을 넘어서
에이전트에게 스킬을 프롬프트로 넣어주는 방식은 컨텍스트를 잡아먹고 쉽게 깨집니다.
Qwen3.6-27B를 NVFP4로: Blackwell 단일 GPU 서빙의 경제학
NVIDIA가 Qwen3.6-27B를 NVFP4로 재양자화해 단일 Blackwell GPU에서 vLLM으로 바로 서빙할 수 있게 했습니다.
Fable 5를 프롬프트하는 법: 앤트로픽 공식 가이드가 말하는 다섯 가지
앤트로픽이 공개한 Claude Fable 5 프롬프트 가이드를 뜯어봅니다.
LLM 내부 구조를 체계적으로 배우는 법: 토큰화부터 추론 최적화까지
LLM을 운영하면서도 KV 캐시가 왜 메모리를 잡아먹는지, GQA가 무엇을 절약하는지 설명하지 못한다면 최적화는 감에 의존하게 됩니다.
내 AI 스택 전부 중국산이요
87% 싸진 건 축하할 일인데, 주인만 바꾼 건 아니고요?
작업마다 이기는 모델로 라우팅한다: 오픈 가중치로 에이전트 자동화 비용을 44배 접은 실측
에이전트 자동화의 대부분은 최상위 추론이 아니라 도구 호출과 파이프라인 실행입니다.
Qwen3.6-27B을 4비트로: NVFP4 양자화가 Hopper까지 내려온 이유
NVIDIA가 공개한 Qwen3.6-27B-NVFP4는 27B 하이브리드 어텐션 추론 모델을 4비트로 눌러 메모리를 약 2.5배 줄이면서도 FP8 대비 벤치마크 차이를 1%p 이내로 유지합니다.
Dual-Pool Token-Budget Routing: vLLM 추론 GPU 시간 31~42% 절감하는 이원화 스케줄링
짧은 응답 요청이 긴 응답 요청에 밀려 기다리는 HoL 블로킹은 GPU 시간을 낭비하는 조용한 적입니다.
직무가 녹아내린 자리에 남는 다섯 가지 원형: 프로토타이퍼부터 메인테이너까지
엔지니어링·제품·디자인·데이터가 한 덩어리로 녹아드는 지금, Claude Code를 만든 보리스 체르니가 제안한 다섯 가지 역할 원형과 제품 생애주기별 팀 구성 공식을 살펴봅니다.
미래의 일, 직무 대신 5가지 '원형'
엔지니어·PM·디자이너가 프로토타이퍼·빌더·스위퍼·그로워·메인테이너로 녹아든다는데, 아무도 안 하려는 6번째가 있다.
내 AI 스택이 다 중국산이 됐다
스택이 통째로 남의 손에 넘어간 날, 파시스와 메티스의 대처법.
삼성·SK, 10년간 4,755조 원 국내 투자: 호남 메모리 팹부터 15GW AI 데이터센터까지
2026년 6월 29일 삼성전자와 SK하이닉스가 향후 10년간 국내에 합산 4,755조 원을 투자한다고 발표했습니다.
오픈웨이트가 프런티어를 따라잡은 해: 승부처는 self-hosting 경제학
2026년 중반 오픈웨이트 모델은 프런티어와 3~6개월 격차로 좁혀졌고, 그 격차는 더 벌어지지 않고 있습니다.
에이전트 AI를 처음부터 시스템까지 한 권으로: 'The Hitchhiker's Guide to Agentic AI'를 읽었습니다
arXiv에 올라온 ‘The Hitchhiker’s Guide to Agentic AI: From Foundations to Systems’는 LLM 기질부터 정렬·추론, 에이전트 시스템, 그리고 프로덕션 배포까지 에이전트 AI의 전 계층을 한 번에 꿰는 실무 레퍼런스입니다.
OpenRouter 점유율 역전이 말하는 것: 토큰은 매출이 아니다, 그리고 모델 중립의 값어치
OpenRouter에서 미국 모델 토큰 점유율이 1년 만에 약 70%에서 약 30%로 떨어지고 중국 오픈웨이트 모델이 약 46%까지 올라왔습니다.
빅테크 GPU 과투자의 진짜 논리: 비대칭 보험과 다음 세대 톨게이트
2026년 하이퍼스케일러 캐펙스가 약 7,250억 달러로 전년 대비 77% 늘었습니다.
GLM-5.2 469B를 NVFP4로 한 노드에 올리기: vLLM 서빙 레시피를 뜯어봤습니다
NVIDIA가 공개한 GLM-5.2-NVFP4 체크포인트는 469B MoE 모델을 단일 Blackwell 노드(8× RTX PRO 6000)에서 vLLM으로 서빙할 수 있게 합니다.
코딩 에이전트로 영상을 편집합니다: video-use 스킬을 뜯어봤습니다
midudev이 공유해 화제가 된 browser-use의 video-use는 폴더에 원본 영상을 넣고 한 문장을 입력하면 컷 편집, 필러 제거, 자막, 색보정, 애니메이션, 렌더링까지 코딩 에이전트가 자동으로 끝내는 무료 오픈소스 스킬입니다.
AI 경제 영향 측정이 로그 분석을 넘어섭니다: Anthropic Economic Index 'Cadences' 보고서를 뜯어봤습니다
Anthropic이 2026년 6월 26일 공개한 Economic Index ‘Cadences’ 보고서는 7일 샘플을 버리고 시간 단위 연속 텔레메트리로 전환했습니다.
GLM-5.2를 만든 오픈소스 RL 프레임워크 slime 뜯어보기
Z.ai의 1M 컨텍스트 오픈웨이트 모델 GLM-5.2의 후처리 학습을 떠받친 비동기 강화학습 인프라 slime이 완전 오픈소스로 공개되었습니다.
토큰 사용량은 폭증하는데 AI 비용은 절반으로: 코인베이스의 더 나은 기본값 전략
코인베이스 CEO 브라이언 암스트롱이 공개한 AI 비용 통제법은 사용량 제한이나 경고 알림이 아니라 더 나은 기본값, 라우팅, 캐싱이었습니다.
Claude Code 프로젝트 구조의 완전한 지도를 우리 레포에 비춰봤습니다
CLAUDE.md, rules, skills, agents, hooks, MCP까지.
에이전트 메모리는 이제 데이터 시스템입니다: Agent-Native Memory를 데이터 관리 관점에서 뜯어봤습니다
arXiv 2606.24775 ‘Are We Ready For An Agent-Native Memory System?’은 LLM 에이전트 메모리를 RAG가 아니라 하나의 데이터 관리 시스템으로 보고, 12개 메모리 시스템을 4개 모듈로 분해해 측정합니다.
Ornith-1.0: 스스로 RL 스캐폴드를 짜는 오픈 코딩 모델
DeepReinforce가 2026년 6월 25일 공개한 Ornith-1.0은 모델이 자신의 강화학습 훈련 스캐폴드를 직접 작성하는 자가-스캐폴딩(self-scaffolding) 메커니즘으로 만든 오픈소스 코딩 모델 패밀리입니다.
NVIDIA GLM-5.2-NVFP4: 753B 프런티어 MoE를 4비트로 서빙하기
NVIDIA가 ZAI의 753B MoE 추론 모델 GLM-5.2를 NVFP4(4비트)로 양자화해 Hugging Face에 공개했습니다.
논문 쓰는 AI 에이전트 - 오픈소스 Skill 패키지로 작성 워크플로 옮기기
교수의 논문 작성 노하우를 Codex, Claude Code, Gemini 어디서나 불러 쓰는 Skill 패키지로 묶은 오픈소스 프로젝트가 화제입니다.
SKILL.md를 손으로 쓰지 않습니다: Hermes Agent의 /learn 명령을 뜯어봤습니다
Nous Research가 Hermes Agent에 추가한 /learn은 디렉터리, URL, 방금 끝낸 대화, 붙여넣은 메모 어느 것이든 가리켜 재사용 가능한 스킬로 만들어 줍니다.
책 한 권을 한 번에 읽는 OCR: Baidu Unlimited OCR의 상수 KV 캐시 비밀
Baidu가 공개한 Unlimited OCR은 디코더의 어텐션을 Reference Sliding Window Attention으로 바꿔 KV 캐시를 상수로 유지합니다.
환경을 먼저 상상하는 에이전트: Qwen-AgentWorld 언어 월드 모델을 뜯어봤습니다
Alibaba Qwen이 공개한 Qwen-AgentWorld는 행동을 학습하는 대신 환경 자체를 예측하도록 학습한 언어 월드 모델입니다.
1비트로 줄인 744B: Unsloth GLM-5.2 Dynamic GGUF가 던지는 온프레미스 질문
Unsloth가 GLM-5.2(약 744B MoE)의 1.51TB BF16 가중치를 1비트 Dynamic GGUF로 줄여 176GB까지 압축했습니다.
NVFP4로 35B MoE를 4비트에 담기: Qwen3.6-35B-A3B-NVFP4 서빙 노트
NVIDIA가 Alibaba의 Qwen3.6-35B-A3B를 NVFP4(4비트)로 양자화해 공개했습니다.
220k 토큰을 생각하는 모델: GLM-5.2가 뒤집는 자가호스팅 셈법
Matt Pocock이 /teach 스킬로 GLM-5.2에 루빅스 큐브를 풀게 했을 때, 가장 낮은 effort에서도 3턴에 약 22만 토큰의 사고 트레이스가 나왔습니다.
vLLM vs Ollama - 로컬 LLM 추론, 언제 무엇을 골라야 하는가
Ollama는 쉽고 vLLM은 빠르다는 통념을 2026년 RTX 4090 공개 벤치마크로 다시 검증합니다.
첫 AI 에이전트를 만든다면 - 가드레일이 붙은 최소 루프부터
AI 에이전트 입문 가이드는 대부분 LLM 두뇌, 메모리, 도구, 에이전트 루프 네 조각을 설명하고 끝납니다.
NVIDIA가 검증한 에이전트 스킬: OMS 서명으로 스킬 공급망에 신뢰를 심는 법
NVIDIA가 에이전트 스킬 200여 개를 OMS 암호 서명과 함께 오픈소스로 공개했습니다.
루프를 돌리기 전에 설계합니다: 토큰을 태우지 않는 에이전트 루프 엔지니어링
프롬프트를 잘 쓰는 시대에서 루프를 잘 설계하는 시대로 넘어가고 있습니다.
슬랙 안으로 들어온 지속형 에이전트, Claude Tag을 플랫폼 관점에서 읽습니다
Anthropic이 슬랙 채널 안에서 @Claude를 호출해 일을 맡기는 Claude Tag을 공개했습니다.
AI 에이전트에게 진짜 기억을 주는 법 - 컨텍스트 엔지니어링 4가지 기법
컨텍스트 창은 크다고 좋은 것이 아닙니다.
Gemma 4 전체 라인업 정리: Apache 2.0 오픈웨이트 5종 모델과 온프렘 서빙 가이드
Google DeepMind가 2026년 4월 공개한 Gemma 4는 E2B부터 31B까지 5종으로 구성된 멀티모달 오픈웨이트 패밀리입니다.
DGX Spark 한 대로 Gemma 4 26B를 16배 병렬로: NVFP4 양자화와 가성비 솔직 리뷰
NVIDIA가 공개한 Gemma-4-26B-A4B-NVFP4를 DGX Spark 한 대에서 16배 병렬로 돌리면 스트림당 약 18토큰/초, 합산 약 300토큰/초가 나옵니다.
Anthropic Claude Tag: Slack 채널을 상주 AI 팀원의 작업 공간으로
Anthropic이 기존 Slack 앱을 대체하는 Claude Tag를 공개했습니다.
free-claude-code로 Claude Code를 자체호스팅 모델에 연결하기 - 17개 프로바이더 라우팅 프록시 실측
36.7k 스타의 free-claude-code는 Claude Code 트래픽을 Anthropic 호환 FastAPI 프록시로 받아 17개 프로바이더로 분기합니다.
DFlash 추측 디코딩: 블록 확산으로 vLLM 추론을 최대 15배 빠르게
DFlash는 토큰을 하나씩 그리던 EAGLE-3 드래프터를 블록 확산 드래프터로 바꿔, 미래 토큰 블록을 한 번의 전방 패스로 제안합니다.
Claude Code를 사내 모델로 라우팅하기 - claude-code-router로 비용 효율적 코딩 인프라 구축
claude-code-router로 Claude Code 트래픽을 glm-5.2·MiniMax-M2.7·Kimi K2로 분기합니다.
Android 에뮬레이터를 컨테이너로 - docker-android로 K8s 위에 재현 가능한 디바이스 팜 만들기
docker-android는 Android 에뮬레이터를 단일 컨테이너로 패키징해 헤드리스로 띄우는 오픈소스 프로젝트입니다.
Claude Code로 영상을 만든다: claude-code-video-toolkit을 직접 돌려봤습니다
Claude Code 안에서 슬래시 명령 한두 개로 1080p 영상을 렌더링하는 오픈소스 toolkit입니다.
사람 데이터 한 줌이면 충분합니다: self-play 운전 정책에 사람을 정규화 앵커로 거는 법
순수 self-play는 빠르지만 사람과 호환되지 않는 운전 관습으로 수렴합니다.
0.9B로 문서 파싱 SOTA: PaddleOCR-VL을 직접 설치해 한국어·아랍어로 돌려봤습니다
PaddlePaddle이 공개한 0.9B 초소형 비전-언어 모델 PaddleOCR-VL을 직접 설치해 한국어·영어·아랍어가 섞인 문서로 추론을 돌려봤습니다.
Micron-Anthropic 협약: 메모리가 AI 인프라의 전장이 되다
Micron이 Anthropic에 HBM·DRAM·SSD를 공급하고 AI 워크로드용 메모리 아키텍처를 공동 설계하며 시리즈 H에 투자했습니다.
추론 엔진을 고르지 마세요, 하드웨어 전략을 고르세요
vLLM이냐 SGLang이냐 TensorRT-LLM이냐를 먼저 고민하는 것은 순서가 틀렸습니다.
Sakana Fugu: 모델이 모델을 지휘하는 오케스트레이션 시대
Sakana AI가 공개한 Fugu는 여러 LLM을 동적으로 조율하면서도 단일 모델처럼 동작하는 오케스트레이션 시스템입니다.
Hermes Bible: Hermes Agent 문서와 실전 워크플로를 한 번에 검색합니다
Nous Research의 Hermes Agent 공식 문서 169페이지와 커뮤니티가 만든 실전 워크플로 28개를 한곳에 색인해 ⌘K 한 번으로 검색하는 비공식 커뮤니티 사이트입니다.
Fable 5가 내 코드의 100%를 쓴다는 말, 플랫폼 관점에서 따져봅니다
Claude Code를 만든 사람이 ‘Fable 5가 내 코드의 100%를 쓰고 있고 Opus보다 최소 3배 강력하다’고 말했다는 인용이 돌았습니다.
논문 한 편을 13개 에이전트가 함께 씁니다: Academic Research Skills를 직접 붙여 본 기록
문헌 조사부터 투고 가능한 원고까지, 10단계 파이프라인을 자동으로 잇는 Claude Code 스킬팩을 ThakiCloud 에이전트 환경에 실제로 통합해 봤습니다.
한 사람이 시네마틱 웹사이트를 만드는 시대: Gemini 3.1 + Seedance 2.0 워크플로를 뜯어봤습니다
웹 디자이너 빅터 오디가 공개한 16분 튜토리얼은 Gemini 3.1로 사이트 구조를 짜고 Seedance 2.0으로 시네마틱 영상을 입혀, 과거 1만 달러를 받던 마케팅 사이트를 한 사람이 만드는 과정을 보여줍니다.
Fable 5가 구독에서 빠지는 날, 우리가 다시 생각해야 할 것
Anthropic이 Fable 5를 6월 22일까지만 구독 플랜에 무료로 포함하고, 23일부터는 종량제 크레딧으로 돌립니다.
매일 밤 스스로 진화하는 AI 하네스 - Nightly Self-Evolving Harness
사람이 자는 동안 시스템이 어제의 실패에서 배우고 스스로 개선됩니다.
로컬 LLM 추론의 '바이블': 하드웨어를 먼저 정하면 엔진은 따라옵니다
r/LocalLLaMA GPU 모더레이터 Ahmad Osman이 무료 공개한 로컬 LLM 추론 종합 가이드를 정리합니다.
LLM 운영 비용을 라우터와 가드레일로 통제한 실전기 - $705/일 사고에서 배운 것
하루 $705 청구서 사고를 솔직하게 공개하고, 1개월 감사에서 발견한 원인(Opus 메인 세션 90.3%)과 처방(모델 라우팅, 회고 기반 에스컬레이션, cron화, 컨텍스트 위생)을 수치로 증명합니다.
환자 데이터를 외부로 내보내지 않고 사내에서 LLM 파인튜닝하기 - 의료·바이오 온프렘 AI 구축
의료 기관이 환자 데이터를 외부 클라우드로 반출하지 않고 사내 GPU 클러스터에서 도메인 특화 LLM을 파인튜닝하고 서빙하는 전체 워크플로를 설명합니다.
GLM-5.2: GPT-5.5를 넘은 MIT 오픈웨이트, 그리고 소버린 서빙의 기회
중국 Z.ai(Zhipu)가 MIT 라이선스로 공개한 744B MoE 코딩 모델 GLM-5.2를 정리합니다.
OPD 사후학습: GLM-5.2는 어떻게 10개 넘는 전문가 모델을 이틀 만에 합쳤나
Z.ai는 GLM-5.2를 만들면서 RL 사후학습 인프라 전체를 오픈소스로 공개했습니다.
망분리 공공기관을 위한 주권 AI 구축 가이드: 온프레미스 LLM 레퍼런스 아키텍처
외부 클라우드를 쓸 수 없는 공공·정부 기관이 사내 GPU 인프라에서 LLM을 안전하게 서비스하는 방법을 설명합니다.
1인 AI 엔지니어가 1,620개 스킬 스택을 운영하는 법
스킬 1,620개, 서브에이전트 55개, 야간 자가진화, 비용 가드레일까지.
스킬 1,600개를 노이즈 없이 라우팅하는 법 - AI 에이전트 스킬 생태계 운영기
스킬은 많을수록 좋은 게 아니라 세금입니다.
‘자는 동안 일하는 AI’의 진짜 엔지니어링: Opus 4.8 동적 워크플로와 병렬 서브에이전트를 뜯어봤습니다
‘40가지 워크플로로 자는 동안 돈을 번다’는 바이럴 X 아티클이 타임라인을 흔들었습니다.
GPU 클러스터 운영비 최적화: Kueue 페어셰어 + Gang Scheduling + Scale-to-Zero
1,000 GPU 클러스터에서 연간 최대 수천만 달러를 낭비하는 세 가지 병목 지점을 K8s 네이티브 스케줄링으로 회수하는 방법을 설명합니다.
GPT-5.5를 1/6 비용으로 따라잡은 오픈웨이트: GLM-5.2를 자체 호스팅 관점에서 뜯어봤습니다
Z.ai가 MIT 라이선스로 공개한 744B MoE 코딩 모델 GLM-5.2가 SWE-bench Pro와 Terminal-Bench에서 GPT-5.5를 앞섰고, 비용은 약 1/6이라는 보도가 나왔습니다.
에이전트 네이티브 클라우드란 무엇인가: Skills와 Policies를 일급 리소스로
VM 중심 클라우드가 자율 AI 에이전트 운영에 부적합한 이유, 그리고 Skills·Tools·Policies·Audit Logs를 일급 리소스로 다루는 에이전트 네이티브 인프라 설계 원칙을 살펴봅니다.
세 거인의 서로 다른 미래관: 허사비스·황·아모데이가 빌더 조직에 남기는 것
AGI·인프라·노동이라는 세 렌즈로 AI의 미래를 달리 보는 허사비스, 황, 아모데이의 세계관을 비교하고, 불확실성이 겹치는 지금 빌더 조직이 각자에게서 무엇을 취해야 하는지 종합한다.
에이전트가 회사를 운영하는 시대: 젠슨 황의 비전과 조직 문화의 재편
NVIDIA CEO 젠슨 황의 ‘엔지니어 1인당 수백 개 에이전트’ 비전이 현실화될 때 조직 구조와 일하는 방식은 어떻게 바뀌어야 하는가.
AGI는 아직 멀었다: 데미스 허사비스의 현실주의와 기대 관리의 문화
DeepMind CEO 허사비스의 ‘AGI와 거리가 멀다’ 발언을 출발점으로, AI 조직이 과대광고 대신 정직한 기대치 설정을 문화로 삼아야 하는 이유를 살핀다.
AI가 최고의 의사결정자라면: 데이터가 직관을 이기는 결정 문화
젠슨 황의 ‘시장이 붙인 별명’을 출발점으로, Moneyball 계승 심화, 데이터가 직관을 이기는 의사결정 문화를 어떻게 조직에 뿌리내릴 것인가
소프트웨어가 공짜가 되면 엔지니어는 무엇을 하는가: 다리오 아모데이의 예언
코드의 한계비용이 0에 수렴할 때, 엔지니어링 팀의 가치는 ‘무엇을 만드는가’에서 ‘무엇을 만들어야 하는가를 아는가’로 옮겨간다.
제조 운영을 자율 에이전트팀으로 자동화하는 방법
MLOps 인력 부족과 멀티공장 클러스터 관리 문제를 멀티페르소나 자율 에이전트팀으로 해소하는 실전 접근법을 소개합니다.
금융권 AI 거버넌스와 감사 자동화: 규제 충족과 자율 에이전트 통제
은행·증권·보험사가 AI 에이전트를 도입할 때 부딪히는 데이터 국내저장, 감사추적, 내부통제 요구사항을 정책엔진과 해시체인 감사 로그로 충족하는 방법을 가상 케이스로 살펴봅니다.
스킬팩 한 장으로 코딩 에이전트의 성격이 바뀐다면: 엔터프라이즈 AI 가드레일을 다시 봅니다
한 보안 연구자가 라우팅 설정 한 장으로 범용 코딩 에이전트를 20여 개의 전문 워크플로로 재배치하는 스킬팩을 공개하면서, 본인 스스로 위험한 이중용도 프로젝트라고 못 박았습니다.
STORM 방법론으로 박사급 리서치를 자동화하기: 4단계 지식 큐레이션 워크플로
스탠퍼드 OVAL 연구실의 STORM은 질문을 던지고, 다관점으로 조사하고, 개요를 잡고, 인용이 달린 보고서를 생성하는 LLM 지식 큐레이션 시스템입니다.
에이전트 스킬 라이브러리로 실증 연구를 자동화하기: 스탠퍼드 REAP 사례와 그 한계
스탠퍼드 REAP 기반 CoPaper.AI가 공개한 23,000개 이상의 실증 연구 에이전트 스킬 라이브러리를 분석합니다.
스킬 하나로는 안 풉니다: SkillWeaver가 보여준 컴포지셔널 스킬 라우팅과 분해의 병목
복합 사용자 요청은 스킬 하나를 고르는 문제가 아니라 여러 개를 조합하는 문제입니다.
TPU v2부터 Ironwood까지: 5세대로 본 구글 트레이닝 슈퍼컴퓨터의 진화
구글이 TPU v2부터 Ironwood까지 5세대 트레이닝 슈퍼컴퓨터의 아키텍처 안정성, 규모, 회복탄력성, 전력 효율, 지속가능성을 정리한 논문(arXiv:2606.15870)을 분석합니다.
URL 한 글자로 논문을 재현하기: alphaXiv autoresearch와 GPU 재현성 자동화
arXiv URL의 ‘arxiv’를 ‘autoarxiv’로 바꾸면 에이전트가 코드베이스 환경 설정, 최소 재현 실행, GPU 복제 비용 추정을 자동 수행합니다.
RL 사후학습을 인프라로: slime 오픈소스 프레임워크와 RL 스케일링
Z.ai가 오픈소스화한 slime은 RL 스케일링을 위한 LLM 사후학습 프레임워크입니다.
753B 오픈웨이트를 소비자 GPU에서: GLM-5.2와 온프레미스 LLM 서빙 경제성
753B 규모 SOTA 오픈웨이트 모델 GLM-5.2를 RTX 4090 소비자 GPU에서 구동한 사례를 분석합니다.
8GB GPU에서 도는 Gemma 4 12B: QAT와 TurboQuant로 본 컨슈머 추론 경제성
Gemma 4 12B를 QAT와 TurboQuant로 RTX 4060 8GB에서 구동한 커뮤니티 벤치마크를 분석합니다.
스킬을 '소프트웨어처럼' 다루는 메타스킬: yao-meta-skill v1.1.0 직접 검증 리포트
Anthropic 공식 Skill-creator보다 강력하다고 입소문이 난 오픈소스 메타스킬 yao-meta-skill을 ThakiCloud 환경에 직접 클론하고 로컬 검증 게이트를 돌렸습니다.
구조화 프롬프트로 이미지 스타일을 제어하기: 5섹션 계층형 프롬프트 기법
여행 사진을 스튜디오 지브리 스타일 애니메이션으로 변환하는 구조화 프롬프트 기법을 분석합니다.
Nature급 그림과 교열을 코드로: nature-skills를 직접 돌려 본 학술 버티컬 리포트
Nature 저널 기준의 과학 그림 생성과 학술 교열을 묶은 오픈소스 Claude 스킬 패키지 nature-skills를 직접 클론하고, nature-figure로 ThakiCloud 서빙 데이터를 제출 등급 2패널 그림으로 렌더링했습니다.
LLM 없이 PDF를 마크다운으로: LiteParse와 RAG 인제스트 비용·데이터 주권
LlamaIndex가 발표한 LiteParse는 LLM 없이 PDF를 마크다운으로 변환하는 Apache 2.0 오픈소스 파서입니다.
토큰 비용을 34~71% 깎는 가역 압축: Headroom 실측 리포트와 ThakiCloud 컨텍스트 위생
AI 코딩 에이전트의 가장 큰 숨은 비용은 컨텍스트입니다.
로컬에서 도는 멀티에이전트: Gemma 4 26B로 10개 병렬 서브에이전트 오케스트레이션
Gemma 4 26B를 로컬에서 띄워 10개 병렬 서브에이전트로 SVG 아트 갤러리를 코딩하는 데모를 분석합니다.
SkillRet: 에이전트가 수천 개 스킬을 다루는 시대의 검색 표준을 ThakiCloud가 만들다
LLM 에이전트가 수천 개의 재사용 스킬을 운용할 때 정확한 스킬 검색이 병목이 됩니다.
SkillOpt: 에이전트 스킬을 훈련 가능한 텍스트 컴포넌트로 최적화하다 (arXiv:2605.23904)
에이전트 스킬 문서를 외부 최적화 대상으로 삼아 스코어링된 롤아웃을 제어된 편집(추가/삭제/교체)으로 변환하는 SkillOpt를 분석한다.
보상 없이 스스로 진화하는 LLM 에이전트: 월드 노리지 탐색 기반 학습 (arXiv:2604.18131)
외부 보상 신호 없이 에이전트가 자체적으로 세계 지식을 생성하고 그 지식으로 다운스트림 성능을 높이는 훈련 방법론을 분석한다.
코드가 에이전트 하네스다: AI 에이전트 인프라의 세 계층 구조 (arXiv:2605.18747)
코드가 AI 에이전트 시스템의 기반 인프라로 기능하는 방식을 하네스 인터페이스, 하네스 메커니즘, 멀티에이전트 조율 세 계층으로 체계화한 서베이를 분석한다.
Autogenesis: 에이전트가 스스로를 고치는 자기진화 프로토콜 (arXiv:2604.15034)
프롬프트, 툴, 메모리를 버전 관리 가능한 ‘프로토콜 리소스’로 추상화해 에이전트가 스스로 개선 루프를 닫는 Autogenesis Protocol(AGP)의 설계와 실험 결과를 분석한다.
NVIDIA Nemotron-3-Ultra-550B: LatentMoE 하이브리드, 1M 컨텍스트, 한국어 지원 온프렘 분석
NVIDIA가 OpenMDW-1.1 라이선스로 공개한 Nemotron-3-Ultra-550B-A55B는 Mamba-2와 MoE, Attention을 결합한 LatentMoE 하이브리드 아키텍처다.
MiniMax-M3: 428B MoE 멀티모달, 1M 컨텍스트와 MSA로 M2.7 대비 prefill 9배 빨라졌다
MiniMaxAI가 공개한 M3은 428B 총 파라미터, 23B 활성 파라미터 MoE 멀티모달 VLM이다.
MiniMax-M2.7: 229B 오픈웨이트 에이전트 모델, 113종 양자화와 온프렘 라이선스 주의사항
MiniMax가 공개한 M2.7은 229B 파라미터, FP8 지원, 113종 양자화 변형으로 온프렘 경로가 다양하다.
Kimi K2.6: 1T MoE, 32B Active, 300 서브에이전트 스웜 아키텍처 분석
Moonshot AI의 Kimi K2.6은 1T 총 파라미터 중 32B만 활성화하는 MoE 구조로 dense 32B급 추론 비용을 유지하면서 256K 컨텍스트와 멀티모달을 지원한다.
GLM-5.2: 753B MoE, 1M 컨텍스트, MIT 라이선스 온프렘 서빙 가이드
Z.ai의 GLM-5.2는 DSA(Dynamic Sparse Attention)로 1M 컨텍스트를 2.9x FLOPs 절감하며 처리한다.
FastContext-1.0-4B-SFT: 코딩 에이전트 저장소 탐색 전용 4B 서브에이전트 모델
Microsoft가 공개한 FastContext-1.0-4B-SFT는 Qwen3-4B를 파인튜닝한 코딩 에이전트 서브에이전트 모델이다.
DiffusionGemma 26B-A4B: 이산 텍스트 확산으로 15~20 토큰을 한 번에 생성하는 Google의 실험
Google DeepMind가 공개한 DiffusionGemma-26B-A4B-it는 MoE 기반 VLM이되, 텍스트 생성을 autoregressive가 아니라 이산 확산(discrete diffusion)으로 수행한다.
우리가 Claude Code를 직접 가르치는 이유: ThakiCloud 사내 세미나 자료 공개
환경설정부터 놓치기 쉬운 기능까지.
주제 한 줄에서 판매용 이북까지: ai-ebook-launch 스킬로 만든 6일, 5권
리서치부터 표지, 세일즈 퍼널, 배포 스크립트까지 한 파이프라인으로 묶은 이북 제작 스킬을 실제로 돌려본 기록.
EAGLE 3.1 + vLLM: 프로덕션 추론 서빙에서 투기적 디코딩 실전 가이드
EAGLE 3.1이 vLLM 메인에 머지된 2026년 5월 이후, 투기적 디코딩을 K8s LLM 서빙 스택에 어떻게 통합하고 실측 성능을 검증할지 다룬다.
NVFP4로 Blackwell GPU에서 LLM 서빙 비용 절반 줄이기
NVIDIA Blackwell의 네이티브 4비트 부동소수점 포맷 NVFP4가 H100 FP8 대비 어떤 이점을 주는지, 그리고 vLLM/TensorRT-LLM 스택에서 실제로 적용하는 방법을 설명한다.
NVFP4 다음을 준비한다: vLLM으로 서빙하는 양자화 기법 총정리 (Unsloth 포함)
Blackwell 전용 NVFP4 말고, Hopper·Ampere에서 오늘 당장 vLLM으로 서빙 가능한 양자화 기법을 정리합니다.
vLLM + Prometheus + Kueue: K8s LLM 서빙 관측가능성 실전 설계
GPU 활용률과 KV 캐시 압박, 토큰 처리량까지 모니터링하는 LLM 서빙 관측 스택을 Kubernetes 멀티테넌트 환경에 실제로 구성하는 방법을 다룹니다.
GPU를 더 사도 안 풀린다: llm-d 분산추론과 GPU + 어떤 NPU/XPU든 이기종 아키텍처
llm-d는 GPU를 늘리는 대신 같은 GPU에서 더 많은 요청을 처리하는 추론 스케줄러입니다.
GPU 한 장의 진짜 원가부터: ThakiCloud가 AI 추론 비용을 최적화하는 법
GPU 감가상각 공식, Kueue 갱 스케줄링, vLLM scale-to-zero, 모델 티어 라우팅까지.
vLLM Prefix Caching 실전 운용: KV Cache 재사용으로 추론 비용 절반 이하로
vLLM의 Automatic Prefix Caching을 프로덕션에서 어떻게 설정하고 측정하는지, 실제 히트율과 비용 절감 수치를 중심으로 정리했습니다.
Ollama를 Kubernetes에서 프로덕션으로 운용하는 법
Ollama를 단순 로컬 실험 도구가 아닌 K8s 클러스터의 LLM 서빙 레이어로 올리는 실전 패턴을 정리했습니다.
Kueue로 GPU 워크로드 선점 제어하기: ClusterQueue 설계와 우선순위 패턴
Kueue의 선점(Preemption) 메커니즘과 ClusterQueue 설계 원칙을 실제 AI/ML 플랫폼 운용 관점에서 정리했습니다.
Vibe-Coding-Instruct: 110만 샘플로 경량 코드 에이전트를 SFT하는 방법
lazarus19가 공개한 Vibe-Coding-Instruct는 Apache-2.0, 110만 개 코딩 instruction-response 쌍 데이터셋이다.
Fable-5-traces: 코딩 에이전트 세션 trace로 소형 모델을 蒸溜하는 방법
Glint-Research가 공개한 Fable 5(Claude Code) 에이전트 trace 4,665개.
Agents Last Exam: 컴퓨터 사용 에이전트 평가 기준이 왜 153개 장기 과제로 진화했는가
agents-last-exam은 153개 장기 과제로 컴퓨터 사용 에이전트를 평가하는 벤치마크 데이터셋이다.
Paxis: AI 직원 한 팀을 코드 없이 운영하는 Agent-Native Cloud
기존 클라우드가 서버를 다루듯, Paxis는 에이전트의 능력·도구·정책·감사를 일급 자원으로 다룹니다.
프로덕션 멀티에이전트 오케스트레이션: 6가지 패턴과 비용 함정
2026년 프로덕션 환경에서 검증된 멀티에이전트 오케스트레이션 패턴 6가지를 정리합니다.
MCP 도구 통합과 에이전트 보안: 프로덕션에서 알아야 할 것들
2026년 MCP가 에이전트 연결 표준으로 자리잡으면서 생긴 보안 문제와 운영 패턴을 정리합니다.
어디까지 자동화했나: 1인 엔지니어의 무인 운영 인벤토리
스케줄 잡, 이벤트 훅, 자가개선 루프, 메모리 파이프라인까지.
대화가 스킬이 된다: 과거 세션에서 워크플로를 캐내고 스스로 진화시키는 에이전트
800개가 넘는 과거 대화에서 반복 워크플로를 결정론 엔진으로 캐내 스킬로 만들고, 실패를 근거로 스킬 본문을 leak-free로 진화시키는 두 개의 자율 루프를 코드와 함께 공개합니다.
에이전트 운영비를 라우팅으로 접는다: 모델 티어, 스킬 라우터, 그리고 7개의 비용 룰
하루 705달러를 태운 사고에서 출발해, LLM 모델 라우팅과 스킬 라우터, 토큰 위생 룰로 Claude Code 에이전트 운영비를 구조적으로 줄인 방법을 실제 규칙과 수치로 공개합니다.
LLM 에이전트 관찰가능성: 트레이싱, 평가 루프, 프로덕션 디버깅
멀티에이전트 시스템에서 전통적인 로깅이 왜 통하지 않는지, 그리고 스팬 트레이싱·평가 파이프라인·프로덕션 디버깅을 어떻게 구축하는지 실전 관점에서 정리합니다.
Goclone: 웹사이트를 몇 초 만에 컴퓨터로 복제하기
HTML, CSS, JavaScript, 이미지를 포함한 전체 웹사이트를 로컬 머신에 다운로드할 수 있는 강력한 Go 기반 웹사이트 클로너 Goclone 사용법을 배워보세요.
RAGLight 완벽 가이드: 기본 RAG부터 에이전트 워크플로우까지
RAGLight 프레임워크를 마스터하세요.
LangGPT: 구조화된 프롬프트 엔지니어링 프레임워크로 AI 상호작용 마스터하기
LangGPT의 구조화된 프레임워크를 사용하여 고품질의 재사용 가능한 프롬프트를 만드는 방법을 배워보세요.
udocker: 루트 권한 없이 Docker 컨테이너 실행하는 완벽 가이드
udocker를 사용하여 루트 권한 없이 Docker 컨테이너를 실행하는 방법을 배워보세요.
Shannon AI Agent Orchestrator: 엔터프라이즈급 AI 에이전트 관리 완전 가이드
엔터프라이즈급 보안, 비용 제어, 벤더 유연성을 제공하는 오픈소스 AI 에이전트 오케스트레이터 Shannon의 설치부터 고급 멀티 에이전트 워크플로우까지 완전한 가이드를 제공합니다.
Helm Dashboard: Kubernetes Helm 차트 UI 관리 완벽 가이드
Helm Dashboard에 대한 종합 튜토리얼 - 시각적 인터페이스로 Kubernetes 차트 관리를 단순화하고 리비전 히스토리와 손쉬운 롤백 기능을 제공하는 Helm의 필수 UI 도구.
기술적 역량을 넘어선 커리어 성장 전략
기술적 우수성은 모든 커리어의 기초이지만, 진정한 성장을 위해서는 기술적 능력, 제품 사고, 프로젝트 실행, 그리고 인간관계 기술이라는 네 가지 핵심 역량을 균형 있게 발전시켜야 합니다.
LLM 데이터셋 큐레이션 완전 가이드: 훈련부터 선호도 정렬까지
LLM 후훈련을 위한 필수 데이터셋과 도구들을 탐구합니다.
Awesome Public Datasets: 고품질 오픈 데이터의 보고
농업부터 e스포츠까지 다양한 분야의 엄선된 공개 데이터셋 컬렉션을 통해 전 세계 오픈 데이터 커뮤니티의 노하우를 만나보세요.
NVIDIA Nemotron 6백만 다국어 추론 데이터셋 공개 - 오픈소스 AI 생태계 강화
NVIDIA가 6백만 개의 다국어 추론 데이터셋을 공개하며 프랑스어, 스페인어, 독일어, 이탈리아어, 일본어 5개 언어로 확장된 고품질 훈련 데이터를 제공합니다.
NVIDIA Granary: 25개 유럽 언어를 지원하는 대규모 다언어 음성 데이터셋
64만 시간의 오디오 데이터로 구성된 NVIDIA의 최신 다언어 음성 인식 및 번역 데이터셋, Granary의 특징과 활용 방안을 알아봅니다.
Rowfill: 지식 근로자를 위한 비정형 데이터 처리 플랫폼 완전 가이드
PDF, 이미지, 오디오 파일을 자동으로 구조화하는 오픈소스 AI 플랫폼 Rowfill의 핵심 기능과 활용법을 알아보세요.
AnyCrawl: LLM 친화적 웹 크롤러 완전 가이드 - AI 데이터 수집의 새로운 표준
Node.js/TypeScript로 구축된 AnyCrawl로 웹사이트를 LLM 친화적 데이터로 변환하고, Google/Bing SERP 결과를 효율적으로 수집하는 방법을 마스터해보세요.
ByteDance Dolphin 문서 이미지 파싱: Fox 데이터셋과 벤치마크 완전 분석
ByteDance에서 공개한 Dolphin 프로젝트의 Fox 데이터셋과 벤치마크를 상세히 분석합니다.
dots.ocr: 1.7B 파라미터로 달성한 SOTA 다국어 문서 파싱 - 완전 분석
RedNote가 공개한 dots.ocr로 다국어 문서 레이아웃 분석과 OCR을 단일 비전-언어 모델에서 구현하는 방법을 알아봅니다.
ML 엔지니어가 알아야 할 핵심 스킬 가이드 - 채용 담당자와 지원자를 위한 필수 체크리스트
프로덕션 환경에서 ML 애플리케이션을 구축하기 위해 필요한 핵심 기술 스택과 역량을 정리한 실무 중심 가이드
AI 코딩 시대의 문화 혁신: 저항에서 협력으로의 패러다임 전환
Vibe Coding과 Agentic Coding이 가져온 새로운 개발 문화를 어떻게 받아들이고 발전시킬 것인가? 과거의 관습에서 벗어나 AI와 함께하는 협업 문화 구축 가이드
Saberr로 팀 케미를 데이터화하는 채용·조직 운영 전략
15분 설문과 행동 데이터로 팀 궁합을 정량화해 채용부터 온보딩까지 전 과정을 최적화하는 Saberr 알고리즘 활용법
머니볼 사고로 데이터 기반 조직 문화 만들기
데이터로 숨은 가치를 발굴해 자원 대비 최대 성과를 이끄는 머니볼 전략을 개발·제품·채용에 적용하는 방법
해킹과 역엔지니어링: AI 바이브 코딩 시대의 새로운 방법론
AI 시대의 개발자는 모든 것을 알 필요 없다.
AI Engineering Learning Roadmap
AI 엔지니어링을 시작하려는 분들을 위한 학습 로드맵입니다.
백엔드·인프라 엔지니어 채용: 10대 필독서와 우리가 찾는 사람
백엔드·인프라 엔지니어 채용을 위한 10대 필독서와 실무 적용 사례를 통해 우리가 찾는 인재상과 채용 기준을 소개합니다.
Three Vs-Driven MLOps at ThakiCloud: Why You'll Want to Join Us
ThakiCloud의 Three Vs(속도, 검증, 버전관리) 기반 MLOps 문화와 실전 사례, 그리고 함께할 동료를 찾는 채용 안내를 담았습니다.
[Thaki Cloud Life & 커리어] KCD Seoul 2025
KCD Seoul 2025에서 발표한 자료를 공유합니다.
Thaki Cloud Life & 커리어 가이드
Thaki Cloud의 기업 문화, 복지, 개발자들의 이야기, 채용 정보 등을 공유합니다.
[Thaki Cloud Life & 커리어] 미션, 원칙, 가치
Thaki Cloud의 미션, 원칙, 그리고 가치를 공유합니다.
No posts match these filters.