기술을 만들 수 있는가에서, 만들어도 되는가로 #2

기술을 만들 수 있는가에서, 만들어도 되는가로

― 바이브 코딩 시대의 사회복지 기술윤리

 

이제는 프로그램을 만드는 일이 예전처럼 어렵지만은 않다.

과거에는 프로그램을 개발하려면 프로그래밍 언어를 배우고, 개발환경을 구축하고, 데이터베이스와 서버를 이해하고, 오류를 하나씩 해결해야 했다.

 

그런데 생성형 AI의 등장으로 상황이 달라졌다.

특히 바이브코딩이라는 방식은 자연어로 원하는 기능을 설명하고 AI와 대화하면서 실제 프로그램을 만들어가는 일을 가능하게 했다.

사회복지 현장에서도 이제는 아이디어만 있다면 간단한 업무도구나 신청 시스템, 기록 보조 프로그램 등을 직접 만들어볼 수 있게 되었다.

 

분명 좋은 변화다.

그동안 개발자에게 의존해야 했던 현장의 작은 문제들을 직접 해결할 수 있기 때문이다.

그런데 여기에는 새로운 질문이 필요하다.

기술을 만들 수 있게 되었다면, 우리는 무엇을 만들어야 하는가?

 

그리고 그보다 더 중요한 질문이 있다.

만들 수 있다고 해서, 만들어도 되는 것일까?

 

기술의 진입장벽이 낮아질수록 윤리의 진입장벽도 낮아져야 한다

기술을 만들기가 어려웠던 시대에는 개발자의 전문성이 일종의 장벽으로 작용했다.

아이디어가 있다고 해서 누구나 쉽게 시스템을 만들 수 있었던 것은 아니다.

 

하지만 이제는 상황이 달라졌다.

누구나 상당히 쉽게 무언가를 만들 수 있다.

다만 기술 쉬워졌다는 것이 단순히 개발의 문턱이 낮아졌다는 의미만은 아니다.
기술을 만드는 주체가 넓어졌다는 뜻이며, 이는 기술을 만드는 과정에서 이루어지는 판단과 책임 역시 더 많은 사람의 몫이 되고 있다고 보아야 한다.

즉 개발자가 아니기 때문에 윤리적 책임이 줄어드는 것은 아니며,

오히려 직접 만들 수 있게 되었기 때문에 내가 만드는 기술이 사람에게 미칠 영향에 대해 더 많이 고민해야 한다.

 

예를 들어 사회복지기관에서 AI를 활용해 이용자의 상담기록을 요약하는 프로그램을 만든다고 하자.

기술적으로는 충분히 가능하다.

그런데 무엇을 물어야 할까?

개인정보가 안전한가?

당사자가 자신의 정보가 AI를 통해 처리된다는 사실을 알고 있는가?

AI가 잘못 요약했을 때 누가 책임지는가?

민감한 정보가 불필요하게 수집되고 있지는 않은가?

그 시스템을 사용하지 않는 사람이 불이익을 받지는 않는가?
그리고 무엇보다,
AI가 효율성을 높여준다는 이유만으로 우리가 원래 하지 않았던 감시나 평가를 새롭게 시작하고 있지는 않은가?

기술이 가능해지면 우리는 자꾸 ‘무엇을 할 수 있는가’를 생각한다.

이제는 거기에 ‘무엇을 해서는 안 되는가’를 함께 붙여야 한다.

 

효율성은 좋은 가치지만, 유일한 가치가 아니다

디지털 전환을 이야기할 때 우리는 자연스럽게 효율성을 떠올린다.

시간을 줄이고,

비용을 줄이고,

오류를 줄이고,

더 많은 사람에게 서비스를 제공하는 것.

 

사회복지기관의 입장에서는 매우 중요한 가치다.

한정된 인력과 예산으로 더 많은 일을 해야 하기 때문이다.

그러나 효율성은 목적이지, 모든 것을 정당화하는 기준이 될 수는 없다.

 

예를 들어 직원의 업무를 자동으로 평가하는 시스템을 만들 수 있다고 하자.

업무량을 자동으로 계산하고, 응답 속도를 측정하고, 상담 횟수를 점수화하면 관리자는 훨씬 편해질 수 있다.

 

하지만 질문은 여기서 끝나지 않는다.

측정할 수 있는 것이 정말 중요한 것인가?

 

사회복지의 가치는 숫자로 표현하기 어려운 경우가 많다.

한 이용자의 이야기를 오래 들어준 시간이 실적에는 잡히지 않을 수 있다.

아직 문제를 해결하지 못했지만 신뢰관계를 만들어가는 과정도 데이터로는 잘 보이지 않는다.

어쩌면 기술은 측정하기 쉬운 것을 중요하게 만들고, 측정하기 어려운 것을 주변으로 밀어낼 수도 있다.

그러므로 디지털 전환은 단순히 ‘업무를 자동화하는 것’이 아니다.

무엇을 측정하고, 무엇을 기록하고, 무엇을 중요하게 볼 것인지에 대한 가치판단이 함께 들어가는 과정이다.

 

더 정확한 기술이 언제나 더 좋은 기술은 아니다

기술이 사람을 대신해 판단하기 시작하면 문제는 더 복잡해진다.

예를 들어 AI가 복지서비스의 위험도를 예측한다고 하자.

기술의 정확도가 95%라고 하면 우리는 상당히 좋은 시스템이라고 생각할 수 있다.

하지만 그 5%가 누구에게 돌아가는지를 묻는 순간 이야기가 달라진다.

취약한 사람을 잘못 위험하다고 판단할 수도 있고, 반대로 실제 도움이 필요한 사람을 놓칠 수도 있다.

더구나 AI의 판단이 기존 사회의 편견과 데이터를 학습한 결과라면, 기술은 기존의 편견을 더 빠르고 효율적으로 반복할 수도 있다.

그래서 AI를 도입할 때는 단순히 '정확도가 얼마나 높은가'만 물어서는 안 된다.

 

누구에게 유리하고 누구에게 불리한가?

누가 그 결과에 이의를 제기할 수 있는가?

잘못된 판단을 되돌릴 수 있는가?

사람이 최종적으로 판단할 여지가 남아 있는가?를 물어야 한다.

기술이 정확할수록 오히려 그 결과를 더 쉽게 믿게 된다는 점도 주의해야 한다.

 

사회복지사가 기술을 만든다는 것은 무엇을 의미하는가

저는 바이브코딩이 사회복지 현장에 중요한 이유가 단순히 개발비를 줄여주기 때문이라고 생각하지 않는다.

더 중요한 의미는 현장의 사람이 직접 자신의 문제를 기술로 표현할 수 있게 된다는 것이다.

하지만 그 순간 사회복지사의 역할도 달라진다.

예전에는 개발자에게 “이런 프로그램을 만들어주세요.”라고 요구했다면,

앞으로는 사회복지사 스스로 프로그램을 만들 수 있다.

그렇다면 사회복지사는 동시에 작은 의미의 ‘기술 설계자’가 된다.

 

기술을 만드는 사람에게 필요한 것은 프로그래밍 능력만이 아니다.

사람을 이해하는 능력, 권리를 판단하는 능력, 위험을 예측하는 능력, 필요와 편의를 구분하는 능력이 필요하다.

그래서 저는 바이브코딩 시대의 사회복지사에게 다음과 같은 질문이 필요하다고 생각한다.

이 기술은 누구를 위한 것인가?

누가 이 기술의 영향을 받는가?

누가 배제될 수 있는가?

어떤 정보가 수집되는가?

이 정보는 정말 필요한가?

덜 침해적인 방법은 없는가?
문제가 생겼을 때 사람이 개입할 수 있는가?

그리고 마지막으로 가장 중요한 질문.

이 기술이 없어도 해결할 수 있는 문제는 아닌가?

모든 문제에 기술이 필요한 것은 아니기 때문이다.

 

기술은 목적이 아니라 수단이다

디지털 전환이 가속화될수록 우리는 기술 자체에 매료되기 쉽다.

AI를 사용할 수 있으니 사용하고,

자동화할 수 있으니 자동화하고,

데이터를 모을 수 있으니 모으고,

프로그램을 만들 수 있으니 만든다.

하지만 사회복지에서 중요한 것은 기술의 존재가 아니다.

그 기술을 통해 무엇이 달라지는가이다.

 

사회복지의 기술은 사람의 삶을 더 잘 이해하고, 더 쉽게 접근하도록 하고, 더 안전하게 지원하기 위해 존재해야 한다.

따라서 바이브코딩 시대에는 질문의 순서가 바뀌어야 한다.

예전에는 [ 문제 → 기술적 해결책 ]이었다면, 이제는 [ 문제 → 기술이 정말 필요한가 → 필요하다면 어떤 기술인가 → 사람에게 어떤 영향을 미치는가 ]의 순서가 되어야 한다.

 

기술을 만들 수 있는 능력이 생겼다는 것은 큰 기회다.

하지만 그만큼 중요한 것은 만들지 않을 수 있는 판단력이다.

결국 기술의 성숙은 더 많은 것을 만드는 데서 오는 것이 아니라,

무엇을 만들어야 하고 무엇을 만들지 않아야 하는지를 구별할 수 있는 데서 오는 것인지도 모른다.