AI 시대 - Garbage In Company Out.
예전 IT 업계에는 유명한 문장이 있다.
Garbage in, garbage out.
입력이 잘못되면 결과도 잘못된다는 의미다.
하지만 AI 시대에는 이 문장이 너무 약하다.
지금은 이렇게 말해야 한다.
Garbage In. Company Out.
왜냐하면 AI는 더 이상 단순한 분석 도구가 아니라
행동하는 시스템이 되었기 때문이다.
AI는 이제 “도구”가 아니라 “행위자”다
과거의 IT 시스템은 기본적으로 도구(tool) 였다.
예를 들어
ERP는 데이터를 정리하고
BI 시스템은 보고서를 만들고
분석 프로그램은 결과를 보여준다.
하지만 결정을 내리는 것은 사람이었다.
즉 구조는 다음과 같았다.
데이터 → 분석 → 사람 판단 → 실행
그래서 데이터가 조금 틀려도
사람이 마지막에 의심하고 수정할 수 있었다.
AI 시대에는 구조가 바뀐다
Agentic AI가 등장하면서 구조가 달라진다.
Agentic AI는 단순히 답을 주는 AI가 아니라
스스로 계획하고 행동하는 AI다.
구조는 이렇게 바뀐다.
데이터
↓
AI 분석
↓
AI 의사결정
↓
자동 실행
즉 AI가 판단과 실행까지 연결하는 구조가 된다.
이때 문제가 발생한다.
AI는 데이터를 의심하지 않는다.
Agentic AI가 만드는 새로운 위험
Agentic AI의 특징은 세 가지다.
1. 자율성 (Autonomy)
AI가 스스로 판단하고 행동한다.
예
자동 주문
자동 생산 계획
자동 거래
자동 가격 결정
2. 속도 (Speed)
AI는 사람보다 훨씬 빠르게 실행한다.
문제가 발생하면
몇 분 안에 수천 번의 의사결정이 발생한다.
3. 규모 (Scale)
AI는 동일한 판단을
수천 번, 수만 번 실행한다.
즉 실수도 같은 규모로 확대된다.
Knight Capital 사건이 보여준 것
2012년 Knight Capital 사건은
AI 이전 시대의 자동화 사고였다.
잘못된 시스템 설정 때문에
45분 동안 자동 거래 발생
약 4억 달러 손실
자동화는 실수를 폭발적으로 확대했다.
AI 시대에는 이 현상이 더 강해진다.
왜냐하면 AI는 판단까지 자동화하기 때문이다.
Target Canada 실패가 보여준 것
Target Canada 실패는 또 다른 교훈을 준다.
문제는 기술이 아니었다.
문제는 데이터였다.
상품 데이터 오류
물류 데이터 오류
재고 데이터 오류
이 오류는 공급망 시스템 전체를 혼란에 빠뜨렸다.
매장에는 이런 일이 벌어졌다.
창고에는 상품이 있다
매대에는 상품이 없다
고객들은 이렇게 말했다.
“매장은 큰데 살 물건이 없다.”
결국 Target은 캐나다 시장에서 철수했다.
Agentic AI 시대에는 더 위험하다
이 두 사건은 AI가 없는 시대에도 발생했다.
하지만 Agentic AI 시대에는 상황이 더 위험하다.
구조가 이렇게 바뀌기 때문이다.
Garbage Data
↓
AI Reasoning
↓
AI Planning
↓
AI Execution
즉
데이터 → 판단 → 실행
전체가 자동화된다.
이때 잘못된 데이터는
단순한 오류가 아니라
잘못된 행동을 만드는 연료가 된다.
제조 현장에서 이미 시작된 변화
제조 현장을 보면
Agentic AI 구조가 이미 나타나고 있다.
예를 들어
AI가 생산 스케줄을 만들고
AI가 설비 조건을 조정하고
AI가 품질 이상을 판단하고
AI가 유지보수 작업을 생성한다.
구조는 이렇게 바뀐다.
IoT 데이터
↓
AI 분석
↓
AI 생산 의사결정
↓
자동 실행
이때 데이터가 틀리면 AI는 틀린 공정을 최적화 한다.
이를 우리는 이렇게 부른다. Wrong Optimization
그래서 데이터의 의미가 바뀐다
과거에는 데이터가 단순한 기록이었다.
하지만 AI 시대에는 데이터가 의사결정의 기반이 된다.
그래서 중요한 질문은 이것이다.
이 데이터에는 의도(Intent) 가 있는가?
예를 들어 제조에서는
설계자가 왜 이 구조를 설계했는가
생산기술이 왜 이 조건을 선택했는가
작업자가 왜 이 순서를 사용하는가
이 의도가 데이터에 포함되어야 한다.
그래야 AI가 이해한다.
Think Plant 관점
AI Agent가 공장에서 일하는 시대에는 AI가 디지털 직원이 된다.
하지만 직원에게도 교육이 필요하다.
AI Agent의 교육은 무엇일까?
데이터다.
그리고 그 데이터는 단순한 숫자가 아니라
Ontology
Knowledge Graph
공정 맥락
작업 경험
이 포함된 맥락 있는 지식이어야 한다.
마지막 질문
AI를 도입할 것인가?
이 질문은 이미 늦었다.
지금 기업이 물어야 할 질문은 이것이다.
우리 데이터는 AI가 이해할 수 있는가?
만약 그렇지 않다면
AI는 회사를 도와주지 않는다.
오히려
잘못된 판단을 자동화한다.
결론
AI 시대의 가장 큰 착각은 이것이다.
AI가 회사를 더 똑똑하게 만들 것이라는 생각이다.
하지만 현실은 다르다.
AI는 회사를 더 똑똑하게 만들지 않는다.
AI는 단지
회사의 데이터 수준을 증폭한다.
그래서 이 문장이 지금 시대를 가장 정확하게 설명한다.
Garbage In. Company Out.
AI는 실수를 고치지 않는다.
AI는
실수를 자동화한다.
한 줄 정리
AI 시대의 경쟁력은 알고리즘이 아니라 데이터의 의도와 맥락이다.
(본 내용 일부 AI는 활용(LLM, Midjourney)하습니다)
