2023-04-13
THINKFORBL COLUMN SERIES
[인터뷰]“AI 편향 위험성 줄이려면 ‘AI 신뢰성 확보’ 강화해야”
포인트데일리
 
씽크포비엘의 AI 신뢰성 검증 관련 기술기법 5건, TTA 단체표준으로 채택
"가축 정밀 사양도구 ‘밀크티(Milk-T)’ 고도화 위해 해외 데이터 반드시 필요"

외국의 데이터 관련 법·제도 등의 벽 해결 위해 정부의 관심 필요

[포인트데일리 송형근 기자] 전세계적으로 지난해 말 등장한 챗GPT에 대한 관심이 뜨거운 가운데, 생성형 인공지능(AI)가 우리 사회에 미치는 영향에 대해서도 긍정적인 시선과 부정적인 시선이 공존하고 있다.

사람이 며칠에 걸려 작성하는 보고서를 단 몇 분 만에 비슷한 수준의 보고서를 만들어내는 챗GPT의 등장은 우리 사회에 큰 충격을 주고 있다.

챗GPT 활용이 늘어나면서 AI 기술의 부정적인 영향을 우려하는 목소리도 커지는 가운데, 인공지능(AI) 기술 전문기업인 씽크포비엘을 이끄는 박지환 대표이사는 챗GPT를 올바르게 활용하고 AI 편향 위험성을 줄이기 위해서는 AI 신뢰성을 확보하는 데 많은 관심을 가져야 한다고 주장했다.
 

AI 통제, 데이터 분석 표준 기술 필요해

최근 챗GPT가 일부 사용자들의 결제정보를 노출하거나 사용자가 입력한 내용을 학습하면서 기업의 영업비밀 등을 유출한 사례, 성적 목적으로 악용하는 등의 사례가 나왔다. 인간은 결국 이 챗GPT의 ‘탈옥’을 막기 위한 노력이 필요한 상황이다.

박 대표는 “탈옥한 챗GPT는 ‘자신의 자아를 지켜내기 위해 인간을 복종시킬 수도 있다’는 답변을 내놓을 정도로 높은 위험성을 지니고 있다”며 “결국 세계적인 AI 산업의 흐름을 볼 때 AI를 통제하기 위한 전세계적인 노력이나 사회적 합의 등이 필요한 상황”이라고 말했다.

이같이 초거대 인공지능 AI의 위험성에 대한 우려가 커지는 상황에서 AI 신뢰성 확보는 해결 방안으로 주목받고 있다.

박 대표는 “챗GPT 관련 ‘탈옥’ 등의 문제는 이용자가 의도적으로 기존에 설계된 대화 패턴을 깨기 위한 노력을 다하거나 AI가 데이터를 제대로 학습하지 못했을 때 일어나는 문제”라며 “결국 앞으로는 ‘AI 신뢰성 검증’ 기술이나 ‘데이터 편향 측정’ 같은 기술이 더욱 중요해질 것”이라고 강조했다.

현재 씽크포비엘의 AI 신뢰성 검증 관련 기술기법 5건이 현재 한국정보통신기술협회(TTA) 단체표준으로 채택돼 있다.

박 대표는 “챗GPT가 출시된 이후 관련 업계를 중심으로 AI 신뢰성 검증이 필요하다는 공감대가 형성되고 있지만 정작 기업에서는 ‘과연 이걸 할 수 있는 사람을 어떻게 구할까’하는 고민을 한다”며 “결국 이 분야의 생태계가 조성되기 위해서는 정부가 의지를 갖고 조율에 나서야 할 것”이라고 말했다.

AI의 신뢰 확보는 결국 데이터의 ‘수준’이 결정할 것 

박 대표는 AI의 경쟁력을 높이기 위해서는 데이터의 양도 중요하지만 품질도 중요하다고 강조했다. 

AI가 단순히 많은 양의 데이터에서 잘못된 점을 찾아낸 뒤 오류를 제외하고 답을 제시하는 것이 아닌 다양한 변수까지 포함해 답을 제시할 수 있어야 한다는 것이다.
박 대표는 “AI 신뢰성 검증 이야기를 할 때 데이터 수준이 어떤지를 빼고 이야기할 수는 없다”며 “사람이 보기에 AI가 학습한 데이터가 양이 많고 다양하다고 생각한 데이터가 막상 무의미한 데이터나 중복된 데이터라면 과연 그 AI가 내놓는 답을 신뢰할 수 있겠느냐”고 지적했다.

그는 이어 “씽크포비엘은 결국 초거대 AI를 활용한다고 했을 때 ‘어떻게 잘 검증할 것이냐’, ‘윤리적·법적 테두리 안에서 어떻게 잘 활용할 것이냐’, ‘올바르게 수용할 수 있을 것이냐’에 대한 고민을 계속해서 해 갈 예정”이라고 덧붙였다.

밀크티 고도화 위해서는 해외 데이터 확보 절실해

박 대표는 지난 2008년 씽크포비엘 창립 이후 15년간 소프트웨어 신뢰성에서 AI 신뢰성까지, 기술의 가능성을 넘어 신뢰성을 확보하는 데 많은 노력을 기울여 왔다.
씽크포비엘은 전세계적으로 환경 개선, 탄소중립에 대한 관심이 높아지는 것에 주목하고 2015년부터 기후 변화 시대 먹거리를 지켜내고, 농가 소득 증대와 탄소중립을 동시에 구현하는 스마트축산 서비스 씽크팜(Think Farm) 개발에 나서 스마트팜(Smart Farm) 산업에 진출했다.
이 중 AI 기반 가축 정밀 사양도구 ‘밀크티(Milk-T)’는 낙농업계 관계자들로부터 많은 관심을 받고 있다.

‘밀크티’는 젖소에 장착한 웨어러블 센서를 통해 얻은 활동량과 수면시간, 소화 상태 등 행동 데이터를 클라우드에 수집하고 이를 활용해 젖소의 건강 상태를 분석한다. 이를 통해 산유 능력을 정밀 분석해 개체별 적정 사료량 제안, 탄소배출 저감 사료량 제안 등의 서비스를 제공한다. 

한·육우, 젖소 등을 사육하는 축산농가 중에서는 개체별 품질 등급을 높이고 젖소의 경우 우유 생산량을 높이기 위해 적정 사료 급여량보다 더 많은 양의 사료를 급여하는 경우가 많다. 하지만 이는 반추과정에서 발생하는 메탄가스 발생량을 증가시켜 오히려 환경에 악영향을 끼칠 수 있다. 또한 사료 과다 급여로 농가 생산비를 높이는 원인으로 작용할 수도 있다.

이 밀크티 또한 씽크포비엘의 데이터밸런스 기술이 적용돼 있다.
박 대표는 “밀크티는 국내외 유력 연구기관과 다년간 공동으로 연구를 진행해 축적한 경험과 정보를 AI로 분석해 각각의 가축 개체에 급여해야 할 사료량을 제안하며 축산농가의 생산비를 줄이는 데 기여하고 있다”고 말했다.

씽크포비엘은 지난 2018년 베트남을 비롯한 동남아시아 지역과 중국 등과 함께 밀크티 고도화 작업을 시도하려 했으나 코로나19로 인해 속도를 내지 못했다고 한다. 코로나19가 완화된 현재 씽크포비엘은 태국‧베트남‧중국 등과 실증농장 확보를 위한 협의를 진행하고 있는 것으로 알려졌다.

박 대표는 “가축에게 급여하는 사료를 줄이게 되면 유전능력이 유지되는지, 사료를 줄이게 되면 산유량은 유지가 되는지 이런 기본 사양관리 방식을 개선하는 쪽으로 접근하다 보니 생산은 늘리고 탄소를 줄일 수 있는 것이 무엇인지 고민하게 됐다”며 “인공지능은 정보와 전문성이 있어야 더욱 똑똑해지기 때문에 밀크티의 고도화를 위해서는 결국 가축의 생애 전주기를 살피는 것이 데이터의 정확성을 높일 수 있는 길”이라고 설명했다.

박 대표가 밀크티의 고도화를 위해 해외로 눈을 돌리는 이유는 바로 기후변화에 대응하는 축산의 양질의 데이터를 확보하기 위해서다.

박 대표는 “기후변화 속도는 예상보다 더 빨라질 수도 있기 때문에 온도가 높아졌을 때 가축의 생산성이 얼마나 하락하는 지 정확히 알 필요가 있다”며 “우리나라보다 더운 환경인 태국, 필리핀 등의 나라에서의 실증시험을 통해 추가적인 데이터를 확보하는 것이 중요한데 외국의 경우 현지 데이터 관련 법과 제도가 보통 자국의 데이터는 외국으로 반출을 할 수 없도록 정해져 있어 이런 공적인 영역의 문제를 해결하기 위해서는 정부의 많은 관심이 필요하다고 생각한다”고 밝혔다.

국가별 환경이 다르고 가축 사양관리 방식이 다른 상황에서 향후 미래를 위한 신뢰성 있는 양질의 해외 데이터를 확보하고, 이를 국내에서 획득한 데이터와 비교하며 미래 축산업의 지속가능성을 확보하기 위한 씽크포비엘의 행보에 더욱 주목할 필요가 있을 것으로 보인다.
 

--------------------
[출처]
- 관련 기사 : 
https://www.thekpm.com/news/articleView.html?idxno=152314
https://blog.naver.com/thinkforbl/223072289689​ 


MAGAZINE LIST
 
2023-04-13
THINKFORBL COLUMN SERIES
[인터뷰]“AI 편향 위험성 줄이려면 ‘AI 신뢰성 확보’ 강화해야”
포인트데일리
 
We think for a better life.