AI의 그럴듯함을 어디까지 믿을 것인가
LLM이 잘하는 패턴 생성과 인과 판단의 차이를 살펴보고, 전제가 바뀌는 실제 작업에서 AI의 답을 안전하게 검증할 기준을 정리한다.
- #AI
- #LLM
- #인과 추론
- #검증
- #AI 활용
LLM이 잘하는 패턴 생성과 인과 판단의 차이를 살펴보고, 전제가 바뀌는 실제 작업에서 AI의 답을 안전하게 검증할 기준을 정리한다.
AI Agent, Subagent, Harness, Loop, Goal, Planning과 Graph를 하나의 실행 구조 안에서 구분하고, 각 요소가 언제 필요한지 정리한다.
소스 코드, AST, Code Graph, 실행 결과와 Agent Memory가 각각 무엇을 증명하는지 구분하고, 코드 변경 뒤 기억을 선택적으로 갱신하는 방법을 설계한다.