시스템과 사람을 대립으로 이해하면, 설계의 출발점부터 틀어집니다. 많은 조직이 시스템을 도입할 때 처음부터 잘못된 질문을 던집니다. “어디까지 사람을 줄일 수 있는가.” 그러나 현장 운영의 본질은 인력 절감 그 자체가 아니라, 불안정한 운영을 얼마나 줄일 수 있는가에 더 가깝습니다. 시스템은 반복, 기록, 추적, 표준화에는 강합니다. 반면 사람은 애매한 상황을 해석하고, 예상 밖의 변수를 감지하며, 아직 언어화되지 […]
시스템과 사람을 대립으로 이해하면, 설계의 출발점부터 틀어집니다. 더 읽기"
엑셀 파일은 많은데 왜 자동화는 시작되지 않을까. 현장에서 자주 나오는 질문이다. 매출표도 있고, 재고표도 있고, 거래처 명단도 있다. 그런데 정작 자동화 이야기가 나오면 업무가 멈춘다. 데이터가 없는 것이 아니라, 전환 준비가 안 되어 있는 경우가 많다. 엑셀 중심 조직이 멈추는 지점 가상의 식품 유통업체를 보자. 연매출 18억 원, 직원 9명 규모다. 발주, 재고, 매출, 거래처
엑셀 파일은 많은데 왜 자동화는 시작되지 않을까. 더 읽기"
성능과 책임은 같은 문제가 아니다 → Accountability / 거버넌스 모델 정확도가 95%라면, 그 시스템은 안전한가?파일럿 테스트에서 오류가 거의 없었다면, 도입해도 되는가?성능 지표가 높으면 책임 구조도 함께 설계된 것인가? 이 질문은 비슷해 보이지만 전혀 다른 층위에 있다.우리는 여전히 성능과 책임을 같은 문제처럼 다룬다. AI 도입 회의에서 가장 많이 나오는 문장은 이것이다.“정확도는 충분합니다.”그 다음 질문은 잘 나오지
성능과 책임은 같은 문제가 아니다 → Accountability 더 읽기"
스케일링은 구조를 해결하지 않는다 → 모델 크기 vs 구조 model scaling does not fix structure model size vs architecture 모델을 더 크게 쓰면 문제가 해결될까?파라미터 수가 늘어나고, 학습 데이터가 많아지면우리 조직의 판단 오류도 줄어들까? 요즘 현장에서 자주 듣는 말이다.“우리도 대형 모델로 바꾸면 정확도가 올라가지 않겠습니까?”이 질문이 나올 때, 나는 먼저 다른 것을 묻는다. 지금 당신의
스케일링은 구조를 해결하지 않는다 → 모델 (model)크기 vs 구조 더 읽기"
우리는 왜 설명을 이해했다고 착각하는가 → 이해의 환상(illusion of explanatory understanding) 우리는 왜 누군가의 설명을 듣고 고개를 끄덕이는가?정말 이해해서일까, 아니면 이해한 것처럼 느껴서일까? 회의실에서 이런 장면은 흔하다.“아, 그 구조군요.”“네, 이해했습니다.”그런데 일주일 뒤 실행 단계에 들어가면 말이 달라진다.각자 머릿속에 다른 그림이 들어 있다.도대체 어디서 어긋난 걸까? 이 글은 학습 이론을 설명하려는 것이 아니다.사람이 왜 착각하는지를 비난하려는
우리는 왜 설명을 이해했다고 착각하는가 → 이해의 환상((illusion) 더 읽기"
AI는 왜 자신 있게 틀리는가 → Confidence Bias AI가 틀릴 수 있다는 건 모두 안다.그런데 왜 문제는 “틀림”이 아니라 “자신 있게 틀림”일까? AI는 계산을 잘한다.문장도 매끄럽다.근거처럼 보이는 문장도 붙인다.그런데 그 안에 확신의 강도가 항상 적절한가?그건 다른 문제다. 이 글은 AI의 윤리나 철학을 다루지 않는다.기술 구조 설명도 하지 않는다.현장에서 왜 사람들이 AI의 답을 그대로 믿고 의사결정에
AI는 왜 자신 있게 틀리는가 → Confidence Bias 더 읽기"
데이터(Data)가 있어도 판단이 흔들리는 이유 → 의사결정 구조 데이터는 충분한데 왜 결론은 매번 달라질까?회의 때는 숫자를 보며 동의했는데, 막상 실행 직전이 되면 왜 다시 망설일까?대시보드는 매일 업데이트되는데, 결정은 여전히 사람 기분에 따라 흔들리는 이유는 무엇일까? 이 글은 데이터 분석 기법이나 통계 정확도를 다루지 않는다.또 “사람은 원래 비합리적이다”라는 이야기로 끝내지도 않는다.현장에서 반복되는 장면 하나에 집중한다.숫자는 있는데,
데이터(Data)가 있어도 판단이 흔들리는 이유 더 읽기"
AI현장감독 이동주는 현장에서 AI 도입 실패 사례(AI adoption failure)를 반복적으로 마주해왔다.AI를 도입하면 성과가 자동으로 나온다고 말하지 않는다.“AI는 미래다”라는 선언도 여기서는 다루지 않는다. 이 글은 기술 선택의 문제가 아니라, AI 도입 실패가 반복되는 구조 설계 문제를 분석한다.특히 AI 도입 기업이 1년 안에 멈추는 구조적 패턴을 중심으로 살펴본다. Fieldbly는 이러한 구조적 실패를 재설계하는 방법론을 연구해왔다 현장에서 가장
AI 도입 기업이 1년 안에 멈추는 이유 (AI adoption failure) 더 읽기"
이 글은 모델의 기술적 개선 방법이나 파라미터 구조를 설명하려는 것이 아니다. 윤리 논쟁을 하려는 것도 아니다. 현장에서 AI를 쓰는 사람 입장에서, 왜 그럴듯한 거짓이 반복되는지를 구조로 보려는 시도다.(Process Failure) 언어 모델은 질문을 받으면 멈추지 않는다. 빈칸을 남겨두지 않는다. 모르면 모른다고 말하도록 설계하지 않는 한, 가장 그럴듯한 다음 단어를 선택한다. 문제는 그 선택이 ‘정답’이 아니라 ‘확률적으로
환각은 단순한 오류일까, 아니면 구조적 압력의 결과일까?(Process Failure) 더 읽기"
AI가 말을 잘하면, 우리는 왜 그것이 이해했다고 느낄까?(ai fluency illusion) 이 글은 “AI가 위험하다”는 주장이나, 기술을 비판하려는 목적이 아니다. 또 모델의 내부 알고리즘을 설명하려는 글도 아니다. 현장에서 반복적으로 목격되는 하나의 착각을 정리하려는 것이다. 말이 매끄럽다는 이유로 사고까지 깊다고 믿는 순간이 어디서 발생하는지. 나는 이 문제를 기능이 아니라 구조의 관점에서 본다. AI는 문장을 생성한다. 의미를 확인하는
우리는 왜 AI의 유창함(ai fluency illusion)을 이해로 착각하는가 더 읽기"