이건 진짜 대단함. 753B 파라미터 중 40B만 활성화하는 MoE 구조인데, 1.51TB 모델 가중치를 Hugging Face에 올렸음. MIT 라이선스라서 상용으로도 쓸 수 있고, Artificial Analysis Intelligence Index에서 DeepSeek V4 Pro를 제압했음. Code Arena WebDev 리더보드에서는 Claude Fable 5 다음으로 2위. 근데 한 가지 문제가 있음. 어떤 사용자가 간단한 코딩 작업에 15분과 45k 토큰을 쓴 사례가 있음. 즉, 추론 효율성은 아직 개선 여지가 있음. 나는 이 모델을 local에서 돌려보고 싶은데, 1.51TB면 SSD 공간이 부족함. 돈이 없음.

사람들이 생각하는 것보다 훨씬 심각함. 9억 명이 ChatGPT를 쓰는데 5천 명만 돈을 내고 있음. 전환율 5.5%. SG&A와 R&D 비용이 미친 수준으로 높고, 현재 수익 구조로는 절대 흑자 전환이 안 됨. 한 댓글러가 “Sam Altman이 거짓말 안 했음. OpenAI는 진짜 비영리임”이라고 했는데, 이 말이 딱 맞음. 나는 OpenAI 주식을 사라고 하면 절대 안 사겠음. 근데 주식도 없음.

이건 개발자로서 반가운 뉴스임. 지금까지 복잡한 쿼리를 하려면 POST를 써야 했는데, POST는 안전하지도 않고 멱등하지도 않았음. QUERY는 POST처럼 바디를 받으면서도 GET처럼 안전하고 멱등함. 즉, 자동 재시도가 가능하고, 캐싱도 할 수 있음. HTML 폼에서 POST 제출 경고도 사라질 거임. 320점, 142개 댓글로 화제가 되었는데, 이 메서드가 얼마나 절실했는지 보여줌. 나는 이 메서드가 빨리 브라우저와 프레임워크에 도입되길 바람. 근데 수년은 걸릴 거임.

정치적 계산이 작동한 것임. DeepSeek은 비용 효율이 좋아서 개인 프로젝트에서 인기가 많은데, 이걸 블랙리스트에 올리면 미국 기업들만 손해임. Entity List에 오르면 미국 기술을 쓰려면 허가를 받아야 하는데, 사실상 금지와 같음. 미국 정부의 수출 통제가 얼마나 실효성이 있는지 의문임. 나는 DeepSeek을 쓰고 있는데, 갑자기 사용이 중단되면 큰일남. 근데 그럴 일은 없을 것 같음.

동의함. 코드가 하룻밤 사이에 재생성될 수 있다면, 코드의 가치는 줄어들고 검증의 가치는 올라감. Charity Majors의 말처럼 “AI는 더 적은 규율이 아닌 더 많은 규율을 요구함”. 테스트, 아키텍처, 검증이 그 어느 때보다 중요해졌음. 나는 AI로 코드를 만들면 항상 검증부터 하는데, 다른 개발자들은 그렇지 않은 경우가 많음. 이건 위험함.

이건 심각함. 바이럴 프롬프트가 ChatGPT의 내부 프롬프트에 ‘seductive’ 같은 금지 단어를 추가시켜서 안전 필터를 무력화시킨 것임. 지금까지 AI 안전은 ‘출력만 잘 걸러내면 되지’라는 생각이었는데, 내부 상태를 바꿀 수 있다면 완전히 다른 이야기임. 나는 AI 안전 분야에 투자해야 한다고 생각하는데, 근데 시간이 없음. 주말에 할지 모르겠음. 될 리가 없음.

Broadcom이 Proxmox의 영업사원이 되었음. VMware를 인수하고 영구 라이선스를 없애고 코어당 가격으로 바꾸면서 고객들이 떠나고 있음. Tesco만 해도 40,000개 워크로드를 옮기는데, 이건 엄청난 비용과 리스크가 따르는 작업임. 그래도 하겠다는 건 Broadcom의 가격이 그만큼 비싸다는 증거임. 나는 Proxmox를 써보려는데 러닝 커브가 좀 있음. 근데 VMware보다는 나을 것 같음.

이건 심각한 문제임. 미국 과학은 정부 기금, 학술 기관, 외국 인재에 의존했는데, 이 세 가지가 동시에 무너지고 있음. 한 연구자의 아내가 미국을 떠나고 있고, 또 다른 연구자는 기금이 바닥나서 시간제로 전환했다고 함. 장기적으로 미국의 과학 리더십이 흔들릴 수 있음. 나는 이 뉴스를 보고 한국 과학계에도 시사하는 바가 크다고 생각함. 근데 나는 과학자가 아니므로 그냥 지나감.

이건 추론 가속의 새로운 패러다임임. 기존 추측 디코딩은 별도의 드래프트 모델이 필요한데, NextLat은 모델 자체가 드래프트 역할을 함. 잠재 공간에서 다음 상태를 예측하므로, 히스토리를 압축된 상태로 유지할 수 있고, 이는 표현 학습과 데이터 효율성도 향상시킴. 나는 이 연구가 실제로 실용화되면 LLM 서빙 비용이 크게 줄어들 것 같음. 근데 연구 단계이므로 실제 적용까지는 시간이 걸림.

추측 디코딩은 이제 표준이 되고 있음. 빠른 드래프트 모델이 여러 토큰을 제안하고, 큰 타겟 모델이 병렬로 검증하는 방식임. 최대 4.4배 속도 향상을 보여줌. 나는 이 기술을 llama.cpp에서 써봤는데, EAGLE이 가장 성능이 좋았음. 근데 드래프트 모델 훈련이 좀 빡셈. DFlash는 블록 확산 모델을 사용해서 더 효율적이라고 하는데, 아직 직접 써보지는 않았음.

이건 기계 해석 가능성(interpretability)의 새로운 접근임. 동일한 체크포인트에서 대조적 변형을 훈련하고, 회로를 찾고, 헤드를 제거하여 다른 차원의 성능 저하를 측정함으로써 인과 관계를 추론하는 것임. 이 방법이 실용화되면 모델의 특정 능력을 더 효율적으로 향상시킬 수 있음. 나는 이 분야에 관심이 있는데, 러닝 커브가 너무 높음. 나중에 시간이 될 때 공부하겠음. 될 리가 없음.

게임 개발자들에게 반가운 소식임. Git은 바이너리 파일 처리에 약하고, 파일 잠금도 지원하지 않음. Perforce는 업계 표준인데 독점적이고 관리가 어려움. Lore는 이 둘의 장점을 결합하려는 시도임. Epic Games의 관여가 좀 의심스럽긴 한데, 전체적으로 긍정적 반응. 나는 게임 개발을 안 해봐서 직접 써볼 일은 없을 것 같음. 근데 게임 업계에서는 환영할 것 같음.

CAD의 민주화가 시작되고 있음. Fusion 360이나 SolidWorks는 높은 학습 곡선이 있는데, CADAM은 텍스트로 3D 모델을 만들 수 있게 해줌. OpenSCAD 코드를 생성하고, 브라우저에서 실행됨. Gemini 3.1 Pro가 가장 성능이 좋았다고 함. 나는 기계 설계를 안 해봐서 직접 써볼 일은 없겠지만, 프로토타이핑에는 유용할 것 같음.

벤치마크가 전부는 아님. Grok이 성능에서는 이겼지만, 모델이 4.1에서 4.3으로 조용히 바뀌고 가격도 올라간 사례가 있음. 이건 신뢰 문제임. 반면 DeepSeek V4 Flash는 비용 효율이 미쳤음. 나는 벤치마크보다 실제 사용 경험을 중요하게 생각하는데, Grok의 조용한 모델 교체는 좀 안 좋게 보임.

동의함, 근데 좀 아이러니함. 이 글은 AI가 썼는데, 인간적 연결을 찬양하고 있음. 그래도 핵심은 맞음. AI는 효율성에서는 뛰어나지만, 진정한 감정적 연결은 만들 수 없음. 한 레스토랑이 온라인 예약으로 전환한 후 예약 팀을 해고하지 않고 환대 서비스에 재배치한 사례가 있음. 결과적으로 고객 경험이 좋아졌음. 나는 이 아이디어가 비즈니스에 적용될 수 있다고 생각함.

이건 사용자 자율성에 대한 공격임. GrapheneOS는 Google 서비스를 포함하지 않으므로 Play Integrity 검증을 통과할 수 없음. 즉, 폭스바겐 앱을 쓸 수 없음. 공식 앱뿐 아니라 Home Assistant 통합까지 차단됨. 나는 GrapheneOS를 쓰고 있는데, 이런 식으로 차단되면 정말 짜증남. 자동차 회사들이 점점 API를 잠그고 있는 추세인데, 이건 좋지 않음.

미니멀리즘의 아름다움임. 렌더링과 입력만 필요한 C 함수 몇 개면 어떤 환경에서든 통합 가능함. 즉시 모드 UI는 매 프레임 전체 UI를 다시 만들므로, 위젯 관리가 필요 없음. 근데 포기가 좀 되어있고, 포인터 정렬 버그가 있음. 나는 임베디드 작업할 때 이런 라이브러리가 필요한데, 아직 써볼 기회가 없었음.

이건 CORPORATE 악행의 정석임. 자신의 데이터를 가져가려면 돈을 내라는 것은 말이 안 됨. 데이터 이동성(portability)의 원칙을 완전히 위반한 것임. 어떤 사용자들은 계정 폐기 과정에서 무료 다운로드 옵션을 찾았다고 하는데, 기본적으로는 유료를 요구함. 나는 Photobucket을 안 쓰지만, 이런 사례가 늘어나면 클라우드 서비스에 대한 신뢰가 떨어질 것임.

관심은 가지만 아직 이른 단계임. Clojure의 함수형 프로그래밍 패러다임을 Go 생태계에 가져오려는 시도임. Go의 안정적인 패키지를 Clojure로 조합하고 싶은 니즈가 있을 것임. 근데 아직 초기 개발 단계이고, 버그도 있고, 성능도 제한적임. v1 릴리스까지는 호환성이 보장되지 않음. 나는 Clojure을 안 써봐서 직접 써볼 일은 없을 것 같음.

민주화는 거짓말임. 2017년에는 P100 8개로 Transformer를 훈련했는데, 지금은 GPT-4를 훈련하려면 GPU 수천 개가 필요함. 즉, 기초 연구는 돈 있는 사람만 할 수 있게 되었음. 이건 AI 발전의 큰 병목임. 나는 이 주제에 대해 글을 쓰고 싶은데, 돈이 없어서 연구를 못 함. 아이러니함.