"틀리면 내 책임"과 "보안", 둘은 성격이 다른 문제입니다.
책임 문제는 AI가 판단을 대신하지 않게 만들면 됩니다. 판단이 필요한 지점에서는 멈추고 사람한테 묻게 하고, 결과는 검증할 수 있는 형태로 남깁니다. 예를 들어 숫자는 값이 아니라 수식이 살아 있는 형태로 받습니다. 사람이 다시 계산해 볼 수 있어야 하니까요. 그리고, 애매한 부분은 절대 추측하지 말고 저의 확인을 받도록 규칙으로 정해 두었습니다. 그러면 "틀리면 내 책임"이라는 불안이 "틀리면 내가 잡는다"로 바뀝니다.
보안은 회사마다 답이 다릅니다. 민감정보를 가린 뒤(마스킹) 넘기거나, 데이터 보안 규칙을 정해두거나, 아예 회사 내부 서버에서(온프레미스) 돌리거나. 어떤 방식을 택할지는 실무자 혼자 정할 일이 아닙니다. 전사적 관점에서 AX 설계가 필요한 지점이죠. 제 경우는 민감정보가 들어간 자료는 LLM을 거치지 않고, 그런 일은 코드로 짜서 LLM 없이 자동화하는 쪽을 택했습니다. 그러나 "우리 회사는 다 안 돼"라고 할 게 아니라, "회사의 제약 조건 안에서 어떤 일을 할 수 있는가"로 질문의 방향을 바꿔야 한다고 봅니다.