Go에서 병렬성 제한하기: errgroup, 워커 풀 및 백프레셔
취소만 할 게 아니라, 진행 중인 작업을 제한하세요.
무한한 팬아웃(fan-out)은 Go 동시성에서 가장 흔한 실패 모드입니다. 모든 go 문장은 상한선 없이, 소유자 없이 비행 중인 태스크 하나를 더 추가합니다. 이 글은 그 둘—상한선과 소유자—을 부여하는 법에 관한 것입니다.
취소만 할 게 아니라, 진행 중인 작업을 제한하세요.
무한한 팬아웃(fan-out)은 Go 동시성에서 가장 흔한 실패 모드입니다. 모든 go 문장은 상한선 없이, 소유자 없이 비행 중인 태스크 하나를 더 추가합니다. 이 글은 그 둘—상한선과 소유자—을 부여하는 법에 관한 것입니다.
다섯 가지 Go HTTP 스택, 단일 벤치마크 환경, 실측 데이터.
Go는 표준 라이브러리에 프로덕션 환경에서 사용할 수 있는 HTTP 서버를 제공합니다. Go 1.22부터는 내장된 라우터가 메서드 매칭과 경로 파라미터를 자체적으로 처리합니다. 프레임워크에 대한 질문은 사라진 것이 아니라 축소되었습니다.
“llama-server가 Ollama를 능가할 때”
Ollama와 llama.cpp는 종종 경쟁하는 추론 엔진으로 비교되곤 합니다. 실제 선택은 관리형 모델 서비스와 직접 운영하는 툴킷 사이의 결정에 가깝습니다.
Ollama에서 vLLM으로 전환해야 하는 시점
Ollama는 로컬 언어 모델을 실행하는 가장 간편한 방법 중 하나이지만, 편리함은 로컬 실험이 더 나은 스케줄링과 관측 가능성이 필요한 공유 추론 서비스로 전환되는 순간을 가릴 수 있습니다.
프로토콜 보안은 모델이 아닌 행위 주체를 규정합니다.
프롬프트 인젝션은 LLM 시스템에서 가장 많은 보안 관심을 받고 있으며, 주목받을 만하지만 에이전트가 도구를 호출하고 작업을 다른 에이전트에 위임하기 시작하면 이것이 유일한 문제는 아닙니다.
장기간 실행되는 A2A 작업은 채팅 세션보다 더 오래 지속됩니다.
대부분의 AI 에이전트 데모는 여전히 몇 가지 추가 단계를 거친 채팅 완성(chat completion)과 비슷하게 작동합니다. 프롬프트를 보내고 몇 초를 기다린 후, 하나의 응답으로 답변을 받습니다.
A2A는 사라진 것이 아닙니다. 다만 범용적으로 쓰이지 않을 뿐입니다.
구글의 에이전트 투 에이전트(Agent2Agent) 프로토콜, 즉 A2A는 첫해를 다소 혼란스럽게 보냈습니다.
MCP는 에이전트에 도구를 제공하며, A2A는 에이전트에게 동료(피어)를 제공합니다.
AI 에이전트 아키텍처는 이제 두 가지 레이어로 분화되기 시작하고 있습니다.
A2A는 에이전트를 네트워크 피어(network peers)로 전환합니다.
A2A 프로토콜(에이전트 투 에이전트 프로토콜)은 독립적인 AI 에이전트 시스템 간의 통신을 위한 개방형 표준입니다.
중복된 사이드 이펙트를 방지하세요
분산 시스템에서 중복성(Idempotency)은 네트워크 오류, 큐 재시도, 클라이언트 패닉, 그리고 운영자가 재실행을 누른 상황에서도 당신을 구워주는 속성입니다. 프로덕션 시스템에서는 중복 전송이 정상적인 현상입니다. 중복된 사이드 이펙트가 바로 버그입니다.
재시작 없이 LLM을 서빙하고 교체합니다.
llama.cpp는 오랫동안 치명적인 한계점을 가지고 있었습니다. 바로 프로세스당 하나의 모델만 서빙할 수 있었고, 모델 전환을 하려면 프로세스를 재시작해야 했기 때문입니다.
로컬 LLM을 활용한 자체 호스팅 AI 검색
Vane은 “인용과 함께 하는 AI 검색” 분야에서 가장 실용적인 선택지 중 하나입니다. 이는 라이브 웹 검색과 로컬 또는 클라우드 LLM을 결합하는 자체 호스팅형 답변 엔진으로, 전체 스택을 사용자의 통제 아래에 두는 것이 특징입니다.
Ultrawork 를 실행할 때 실제로 어떤 일이 일어나는지 알아봅니다.
Oh My Opencode 는 “가상의 AI 개발 팀"을 약속합니다. Sisyphus 가 전문가들을 지휘하고, 작업이 병렬로 실행되며, 마법 같은 ultrawork 키워드가 모든 것을 활성화합니다.
CLI 및 서버에서 GGUF 모델 실행하기
llama.cpp는 GGUF 모델용 C/C++ 추론 엔진입니다: 대화형 챗에는 llama-cli, 스크립트된 프롬프트에는 llama-completion, OpenAI 호환 HTTP API에는 llama-server를 제공합니다.
에어테이블 - 무료 계획 제한, API, 웹후크, Go 및 Python.
Airtable는 주로 협업하는 “데이터베이스처럼” 된 스프레드시트 UI를 기반으로 한 저코드 애플리케이션 플랫폼으로 생각하는 것이 가장 좋습니다. 비개발자들이 친근한 인터페이스를 필요로 하지만, 개발자들도 자동화와 통합을 위한 API 표면이 필요할 때 매우 빠르게 운영 도구를 생성하는 데 적합합니다(내부 트래커, 가벼운 CRM, 콘텐츠 파이프라인, AI 평가 대기열 등).
셀레니움, 크롬디피, 플레이와이트, 린로우즈 - 고에서.
올바른 브라우저 자동화 스택과 Go를 사용한 웹 스크래핑([https://www.glukhov.org/ko/developer-tools/automation-testing/browser-automation-in-go-scraping-selenium-playwright-alternatives/ “브라우저 자동화 스택 및 Go를 사용한 웹 스크래핑”)을 선택하는 것은 속도, 유지보수, 그리고 코드가 실행되는 위치에 영향을 미칩니다.