AI 가 스스로 힘을 발휘하는 세상에 필요한 리더쉽 이해하기
아티클을 읽고 각자의 생각을 나누는 모임이 있다. 2023년 5월에 시작해서 이제 1년이 되었다. 그동안 10여개의 아티클을 통해 생각의 폭과 깊이를 확장하는 커뮤니티 운영을 하며 느낀 점이 있다.
관심과 시간을 투자해야 하는 일은 나에게 돌아오는 이익이 존재해야 한다. 처음부터 끝까지 가장 중요한 가치는 개인이 기대하는 이익이다. 단어가 주는 뉘앙스는 각자 다르게 느낄 것이지만, 이익은 다양한 형태로 규정할 수 있다. 지적 즐거움, 소속감, 성취, 새로운 관점의 획득 등 각자의 의도와 목표에 따라 다르겠지만 이익이 존재해야 지속 가능하다. 커뮤니티를 유지하고 발전시키기 위해서는 각 개인의 목표와 이익이 무엇인지 제대로 확인하는 것이 우선이다. 테스트를 하더라도 목표가 없다면 결과 분석이 의미가 없다. 개인적으론 이번 아티클 발표가 나의 이익은 무엇인지 확인하는 경험이 되었는데, 나머지 멤버들은 어땠는지 궁금하다.
아티클을 간략한 요약 해보면, 오토사피엔스 라고 저자들이 명명한 AI 시스템은 단순한 도구가 아니며 인간이 개발한 어떤 새로운 존재로 인식이 필요하다는 것이다. 우리가 마주하게 될 가까운 미래에는 더 자율적이고 복잡성을 가진 오토사피엔스와 어떻게 일하고 협력하며 인간성을 유지할 수 있을지에 대해서 리더들에게 필요한 화두를 제시한다.
오토사피엔스의 특징은 다음과 같다.
>행위주체적 (Agentic) :
복잡한 다단계 작업을 수행하고 자율적으로 의사결정을 내림, 도움이 되거나 해가 될 수 있음. 예) MIT 팬데믹 프로젝트, 종이 클립 최대화 기계 사고 실험
>적응적 (Adaptive) :
새로운 데이터를 기반으로 학습하고 성능을 개선함.
예) 알파폴드 모델_단백질 구조 예측
>친근함 (Amiable) :
인간과 친밀하게 상호작용하도록 설계됨.
예) DSO_Digital Significant Others, 2023년 챗봇 Eliza
>난해함 (Arcane) :
블랙박스 특성, 예측 불가능한 결과를 초래할 수 있음.
- 오토사피엔스 시대의 권력 변화
- 리더쉽의 새로운 역할
>이중주하되, 의심의 끈을 놓지 말자.
>인간성 회복을 추구하자.
>두 마리 토끼를 잡으려 하지 말고, 하나의 목표에 집중하자. - 결론
오토사피엔스 시스템은 도구가 아닌 행위자로 접근해야 하며 그에 반드시 수반되는 기회와 위험이 있다는 점과, 이런 변화를 주도하는 기술 기업이 갖는 인센티브는 해당기업의 공적인 입장이 어떻든 우리와는 근본적인 차이가 있다는 점이다.
AI 기술의 미래는 기술자에게만 맡기기엔 너무나 중요한 문제다.
오토사피엔스 시스템과 그 소유자가 가진 힘에 맞서기 위해서는정책입안자와 기업리더, 활동가, 소비자의 전례없는 연합이 필요하며 이끌려가지 않고 이끌 수 있는 명확한 이해와 자신감을 갖고 있어야 한다.
새로운 세상이 갖은 마법으로 우리를 유혹하고 있지만,
미래는 아직 우리 손에달려있다. - 생각을 보태면,
기술이 우리를 번영의 땅으로 인도할 것이라는 것을 의심하지 않는다.
유발 하라리 의견처럼, 우리가 어떤 존재를 마주하고 있는지 알 수 없고 전 세계의 리더들이 이 문제에 대해서 심각성을 이해하고 대책을 동시에 마련해야 한다는 의견에도 동의한다.
유럽 연합은 AI ACT를 시작했다. https://artificialintelligenceact.eu 이것이 경쟁을 제한하는 제도가 아니라 또는 기술 개발을 제한하는 제약이 아니라 인간을 중심에 두고 고민한 미래의 이익을 고려한 원대한 발걸음이길 희망한다.
2024년 5월22일, 오주석
Member discussion