2024 과학토론

교내대회

주제: 인공지능에 규제가 필요한가.

의견: 필요하다

• 인공지능 원리 다른 어느 알고리즘과 다르다! 그냥 보기에는 비효율적으로 보이는데.. 딥러닝에 집중 → 생명체의 뇌 구조를 모방해서 만들었지만, 우리가 세상을 이해하는 것과는 사뭇 다르다 (가중치 곱하는 등 수학적인 연산) 최근 ChatGPT 등 LLM도 그저 다음 단어로 나올 것 같은 확률이 가장 큰 단어들을 이어 붙이는 것 따라서 이들이 세상을 제대로 ‘이해’ 한다고 할 수 없다

What Is Machine Learning, and How Does It Work? Here’s a Short Video Primer

• 도입

• 긍정적 사례

• 부정적 사례 → 꼭 좋은 것만은 아님, 막으려면 규제가 필요함

• 사용자 측면/개발자 측면 규제로 나누기 (사용, 데이터)

• 인공지능 원리 / 특성 (윤리적인 판단 불가, 단어 짜맞추기)

• 결론

• 참고문헌

저는 인공지능의 기술 발전보다 관련 규제를 마련하는 것이 우선되어야 한다고 생각합니다.

2016년 알파고의 바둑 대국 이후 대중에게 널리 알려진 인공지능 기술이 2022년 12월 ChatGPT의 출시로 더욱 주목을 받고 있다. 인공지능 기술의 빠른 발전 덕분에 이제는 인공지능이 우리 생활 곳곳에서 흔히 보이고, 또 관련 소식도 많이 들려오고 있다.

인공지능을 활용한 사례로는 첫 번째, 시각 장애인들의 보조도구로 사용할 수 있게 하는 것이 있다. 시야가 제한된 시각 장애인들이 컴퓨터 비전(시각지능)을 통해 주변 상황을 파악할 수 있게 한다. 두 번째로는, 인공지능을 이용해 식량 생산량, 야생 환경 등 다양한 데이터를 분석해 결과에 맞는 대응을 할 수 있게 하기도 한다. 이 경우에는 인간이 포착하지 못한 특이점이나 규칙 등을 인공지능이 더 잘 포착하여 더욱 효과적인 대응이 가능하게 만들기도 한다.1

그러나 최근, 인공지능에 대한 규제가 제대로 마련되어 있지 않다보니 다양한 문제들이 대두되고 있습니다. 첫 번째 사례로는으로는 딥페이크 기술의 악용이 있다. 인간 이미지를 합성하는 기술로, 최근 이를 이용해 유명 연예인, 정치인 등 사회적으로 영향을 크게 끼치는 인물들을 합성해 거짓 사실을 유포하는 경우가 많이 일어나고 있어 사회적인 혼란을 일으키고 있다. 두 번째로는 편향된 데이터 학습으로 인한 불평등 피해가 있다. 2018년 아마존 채용 과정에서 지원자를 가려내는데 사용되었던 인공지능이 기존 컴퓨터/과학 업계에 존재하던 남성 편향 현상을 그대로 학습해 가장 적합한 지원자로 남자 지원자만 골랐다는 것이 밝혀지며 이 인공지능이 사용 중지되었던 사건이 있다. 2

이러한 문제들의 원인은 인공지능의 근본적인 특성에 있습니다.

먼저, 제대로 된 생각을 하지 못한다는 점이 있습니다. 생물의 뇌 구조를 모방하여 만들어졌다고 하지만, 아직 뇌에 대해 자세히 밝혀진 내용이 거의 없어 실제 뇌와는 크게 차이가 나는 구조일 뿐더러, 현재까지의 기술로는 인공지능이 실제로 생각을 하지 못하고 기존의 내용을 짜 맞추기만 할 수 있다. 3 실제로 딥러닝 기술을 기반으로 하여 만들어진 것으로 알려져 있는 LLM(ChatGPT 등)은 생각을 하는 것이 아닌 그저 다음으로 나올 가장 적합한 단어를 고르는 방식으로 작동한다. 실제 생각을 하지 않는다는 점에서 인공지능은 아직까지 인간의 사고를 제대로 모방할 수 없고, ~~구조상 윤리적인 판단을 할 수 없다. 데이터를 보고 단순히 규칙을 찾아 답변을 내는 것이다보니 출력물은 제대로 나오지만, ~~우리가 인간이라면 당연히 거치는 과정들을 밟지 않다 보니 의도치 않게 혐오표현, 인종차별 등 윤리에 어긋나는 출력값을 내놓을 수 있다. 또한, 만약 사용자가 악의적으로 인공지능을 사용하게 된다면 아무 거리낌 없이 문제가 될 만한 실행을 할 수 있다.

두 번째로, 개발자가 자신이 개발한 인공지능이 어떻게 사용될지를 예상할 수 없다는 문제가 있습니다. 인공지능은 기존의 발명품, 기술들과는 다르게 개발자가 어떠한 용도로 이 인공지능이 사용될 지를 예측하기가 불가능에 가깝다. 실제로 일본에서 다양한 종류의 빵을 구별하려는 의도로 만들어진 인공지능이 암 세포를 찾아내는 용도로도 쓰이는 사례가 있기도 할 정도인데, 4 만약 사용자가 인공지능을 악의적으로 사용하는것을 막으려고 해도 무엇을 막아야 할 지 정확하게 파악하기가

마지막으로, 인공지능의 학습 과정에서 발생하는 정보 유출 문제가 있습니다. 인공지능에서 구조 만큼이나 중요한 것은 데이터이다. 같은 코드로 작성된 인공지능이라도, 어떤 데이터를 훈련시키느냐에 따라서 전혀 다른 출력값을 내놓을 수 있다. 최근 출시되는 인공지능 모델들은 대부분 방대한 양의 웹 데이터를 크롤링하여 학습을 진행하는데, 이 과정에서 개인정보 같은 민감한 요소들이 포함된다면 인공지능이 추후 생성물에서 이를 그대로 노출시켜 문제가 생길 수 있다. 실제로 삼성전자에서 자사 코드의 유출을 막고자 사내 ChatGPT 사용을 제한하기도 했다. 5 이와 더불어 한 번 수집되어 학습된 자료는 삭제하기 어렵다는 문제가 존재하기도 한다.

이렇게 살펴보았듯, 인공지능에 있어서는 기술 발전보다 규제가 우선시 되어야 한다. 왜냐하면 인공지능도 인간과 똑같이 하나의 지능으로서 취급하여 도덕적/사회적인 규범이 적용되도록 해야만 인간사회에 혼란을 초래하지 않고 인류의 발전을 위해 기여할 수 있게 될 것입니다. 그럼 인공지능이 어떻게 규제되며 사용되어야 하는가. 첫 번째, 데이터 학습 과정이 투명하고 공평하게, 편향이 일어나지 않도록 데이터의 출처까지 투명하게 공개되도록 규제해야 합니다. 두 번째로는 규제에 어긋나게 악의적으로 사용되었을 경우 엄중한 처벌을 내리도록 해야 합니다.

이렇게 올바른 규제가 마련되었을 때 인공지능도 인류 발전에 도움이 되는 방향으로 발전되어 나갈 것입니다.

서울시 예선

대본

인류세란 파울 쿠루첸이 2000년에 주장한 개념으로 인류를 뜻하는 안트로포스와 세를 합쳐서 만든 용어입니다. 지질학적 시대는 -대, -기, -세로 구분되는데, 이때 기준이 되는 것은 지각변화와 생물종의 변화입니다. 우리가 현재 살고 있는 시대는 홀로세로, 대략 12000년 전 마지막 빙하기가 끝나면서 시작된 간빙기입니다. 하지만, 최근 인류의 발전으로 인해 지구 환경이 변하면서 새로운 시대인 ‘인류세’ 의 도입에 대한 찬반이 거세지고 있습니다. 특히 인류가 폭발적으로 증가하고, 핵 실험을 진행하고 본격적으로 환경에 영향을 끼치기 시작한 1950년대를 시작점으로 하자는 의견이 유력합니다. 그렇다면 인류세 도입에 있어 찬성과 반대 의견은 무엇이 있을까요?

먼저 첫 번째 의견으로는, 최근 일어나고 있는 기후변화에 대해 경각심을 가질 수 있게 해준다는 것입니다. 현재 기후변화에 대해 캠페인부터 국가적인 정책까지 활발하게 이루어지고 있지만, 상황이 크게 달라지지 않고 있습니다. 이를 통해 개개인의 인식과 행동 개선이 함께 이루어져야 한다는 것을 알 수 있는데요. 인류세의 공식적인 지정을 통해 우리의 행동이 새로운 시대를 열 만큼 큰 영향을 끼친다는 것을 인지하고 행동을 고쳐나가는 데 있어 도움이 될 수 있다는 것이죠. 또한, 우리가 지구에 끼친 영향이 다른 시대에 못지않게 큽니다. 산업화 이후 200년이 안되는 기간동안 지구 온도가 1.16도 이상 상승하였고, 과거에는 지구상에 존재하지 않았던 다양한 원소, 물질들을 창조하며 지구에 존재하는 대부분의 생물종과 지각에 영향을 주었습니다.

반면, 반대하는 측은 인류세를 새로운 지질학적 시대로 명명하기에는 그 근거가 부족하다고 보고 있습니다. 그들은 인류의 영향을 부정하는 것이 아니라, 이를 단지 ‘사건’으로 봐야 한다고 주장하며, 지질학적 ‘사건’으로 간주되는 페름기-트라이아스기 대멸종과 같이 지구상에 큰 영향을 끼친 사건들이 특정한 지질학적 시대로 명명되지 않는 예를 들고 있습니다. 또한 1950년을 인류세의 시작점으로 잡더라도 인류세가 70년 밖에 되지 않는다는 점을 한계로 제시합니다. 또, 기업과 정부에 입장에서는 인류세가 그저 하나의 지질학적 시대로 보며 자신들이 환경에 미치는 영향과 그에 따르는 책임을 회피할 가능성이 존재한다는 점도 대표적인 반대 이유입니다.

가장 대표적인 지표물질 예시 중 하나는 플루토늄입니다.플루토늄은 자연에는 거의 존재하지 않는 물질로 주로 원자로 속 연료봉에서 생성되는 물질입니다. 플루토늄이 핵분열을 할 때 큰 에너지를 방출한다는 특성 때문에 원자폭탄에 많이 사용되었는데, 이 과정에서 지구 곳곳으로 퍼지게 되었습니다. 특히나 국제표준층서구역으로 지정된 캐나다 크로포드 호수의 지층에서도 플루토늄의 흔적을 쉽게 확인할 수 있고, 반감기가 길다는 점에서 오랜 기간동안 비교적으로 쉽게 연구에 사용할 수 있다는 장점도 있습니다.

저희가 제시할 지표물질은 탄소 14입니다. 이 물질은 탄소의 동위원소로 다른 동위원소들과는 다르게 약 5000년의 반감기를 가지는 방사성 물질인데요. 이 특성 때문에 유기체가 살아가면서 생명체 속 동위원소들의 비율은 호흡을 통해 일정하게 유지되다가 호흡이 멈추면 탄소 동위원소 중 탄소-14만 비율이 점점 낮아지게 됩니다. 이 비율을 측정하여 생명체가 호흡을 멈춘 시기를 파악해내는 방식을 ‘탄소연대측정법’ 이라는 이름으로 사용하고 있는데요. 1950년대 핵실험 과정에서 탄소-14의 양이 크게 증가하였고, 또 산업화 과정에서 탄소 배출량이 늘어나며 대기상 탄소-14의 비율이 이전과 크게 달라져 인류세를 홀로세와 구별할 수 있게 해줍니다. 그러나, 다양한 오차가 존재하고, 특히 탄소-14의 양이 변하기 쉬워 시기를 정확히 파악하기 어려울 수 있다는 단점을 가지고 있습니다.

인류세는 인간의 활동이 지구 환경에 미치는 영향을 공식적으로 인정하자는 개념입니다. 이 시대의 지정은 인간이 지구 생태계와 기후에 끼친 영향을 강조하며, 기후변화에 대한 인식을 높이고 행동 개선을 촉진할 수 있는 계기를 마련할 것입니다. 그러나 반대 의견에서는 인류세를 독립된 지질학적 시대로 명명하기에 충분한 근거가 부족하며, 이를 단지 지질학적 ‘사건’으로 보아야 한다고 강조합니다. 결론적으로 인류세의 도입은 지질학적 정의와 인간의 환경 영향 사이에서 중요한 논의의 대상이 되며, 이에 대한 합의가 필요하다고 생각합니다. 감사합니다.

피드백

인준아, 태인아 안녕! 과학선생님이야!

시험기간이랑 겹쳐서 급하게 준비한다고 고생했단다ㅠㅠ!
선생님이 너네가 적어온 내용을 바탕으로 피드백해 줄게~ 읽어보고 보안해 보렴~~

우선 가장 중요한 것은 [논제3] 인류세 지표물질 제안과 그 근거겠지! (주장과 근거) [논제1]과 [논제2]는 [논제3]을 위한 과정이라고 생각해 (자료 분석) [논제1] 현재 인류세를 논하는 학자들이 어떤 관점에서 인류세 도입을 찬성하는지, 반대하는지 [논제2] 현재 인류세 지표 물질로 제안하고 있는 플루토늄과 플루토늄을 제안한 과학적 근거는 무엇인지 [논제1], [논제2]처럼 기존에 인류세에 대하여 어떤 관점에서 논의되고 있는지를 제대로 알고 있어야 (자료 분석) [논제3]에서 내 주장과 근거를 잘 펼칠 수 있겠지. (주장과 근거)

그런 측면에서 봤을 때 개요서를 좀더 체계적으로 작성하면 좋을 것 같아.

어쨋든 개요서 또한 평가받는 요소이기 때문에 평가자가 봤을 때 내용이 한눈에 들어오고 이해하기 쉽게 표현하면 좋겠지?

[논제1] [논제1]에서 인류세 도입에 대한 찬성측/반대측의 ‘근거’를 ‘균형 있는 시각에서 다양하게 제시’하라고 했기 때문에 최대한 ‘주요 균형 있는 시각, 관점’을 기준으로 찬성측/반대측을 구분하여 표로 정리하면 좋겠지!? 반대측은 4가지 관점에서 번호를 붙여 설명이 되어있는데, 그에 비해 찬성측은 잘 정리되어 있지 않더라구 찬성측은 표현 자체도 구체적이지 않고 두루뭉실한 표현들이 많이 보이더라ㅜㅜ  일단 [논제1]에서 기존 찬성측/반대측 의견에 대한 정리가 관점에 따라 분명하게 잘 정리되면 좋겠단다ㅠㅠ (근거가 구체적이지 않고 두루뭉실하다면 상대팀에게 공격받기 좋은 요소가 될 수 있단다.)

[논제2]
현재 인류세 지표물질로 왜 플루토늄을 제안하는지에 대한 근거와 반대측에서 받아들여지지 않는 이유를 잘 들여다보면

[논제3]을 준비하는데 중요한 포인트가 될 수 있어.  인준이랑 태인이가 작성한 내용을 보면 플루토늄을 제안하는 근거를 아래와 같이 정리할 수 있을 거 같네..! 맞니~?

1. 자연계에 존재하지 않는, 수많은 핵실험을 통해 만들어진 물질
2. 대기 중에 널리 퍼져 지구 곳곳에서 그 흔적을 확인할 수 있는 물질
3. 인류 활동을 자세히 분석할 수 있는 퇴적층 존재(캐나다 크로포드 호수, 남극 팔머 빙하코어, 중국 시하이롱완 호수)

[논제2[도 이해하기 쉽게 관점에 따라 번호를 구분해서 정리하면 좋을 거 같구나~

[논제3] [논제3]에서 가장 중요한 것은 지표물질로 제안될 수 있는 다른 것들(플루토늄, 플라스틱, 규소, 닭뼈 등)과 달리 인류세 지표 물질로서 탄소-14만이 지니는 타당한 근거를 잘 살려내는 거겠지! 플라스틱, 규소, 닭뼈가 지표물질로서 어떤 한계점을 지니는지 작성한 내용 좋더라! 한눈에 들어올 수 있게 표로 정리해도 좋을 거 같아! 내용을 단순 나열하는 것보다는 핵심 내용을 잡아 번호를 붙여 조금 구분해서 작성해 주면 좋겠다!

① 지표물질로 제안되고 있는 물질들

② 지표물질로서 다른 물질들(플라스틱, 규소, 닭뼈)이 지닌 한계점

③ 제안하는 물질: 탄소-14란? 어떤 물질인지, 인간활동과 어떻게 연관되어 있는지 구체적으로, 인간 활동 전후 어떻게 변화했는지

④ 지표 물질로서 탄소-14의 장/단점 (어떤 측면, 관점에 따른 장/단점인지를 분명하게 정리하면 좋겠어~ 특히 현재 논의되는 주요 관점 위주로 정리하면 좋겠지!)

그리고 상대팀과 실제 토론할 때 탄소-14의 장단점뿐만 아니라 상대팀이 제안한 다른 물질들의 장단점을 다 알고 있는게 좋겠지! 각 물질의 장점은 자기 주장의 탄탄한 근거가 될 것이고, 각 물질의 단점은 상대팀의 공격 요소가 될 거야!

지금 시간이 그리 많지 않아서 탄소-14의 장단점만 잘 정리해도 좋지만 결국 토론할 때에는 지표물질로 제안될 수 있는 다른 물질들의 장단점도 잘 파악할 수 있어야 해.

중간고사 준비랑 겹쳐서 짧은 시간 안에 준비하느라 인준이, 태인이 실력이 잘 반영되지 않을 거 같아 아쉽네ㅠㅠ 근데 하루만에 한거라고 하기엔 정말 우수해! ㅎㅎ 보완할 때 지질학적 시대를 구분하는 기준이 무엇인지, 역대 지질학적 시대로 구분된 시대들의 특징이 무엇인지 정확히 파악하면 인류세 지표 물질로 제안하는 물질을 주장할 때 수많은 관점들 중에서 어떤 관점에 더 비중을 두어야 하는지 확실해 지지 않을까 싶네요!

내용 자체가 어렵지만 우리 마지막까지 최선을 다해보자꾸나!!

피드백 늦게 보내줘서 미안해요ㅠㅠ!

도움이 되었으면 좋겠다! 화이팅!

논제	항목	설명
[논제1]	찬성측/반대측 의견의 구체화	찬성측 의견을 더 구체적으로 정리하고 균형 있는 시각에서 다양하게 제시하라. 표로 정리해 보기.
[논제2]	플루토늄 지표 물질의 근거와 반대 의견의 분석	플루토늄 지표물질로 제안하는 근거와 반대 의견을 명확히 하고 번호로 구분하여 정리해 보기.
[논제3]	탄소-14의 지표물질로서의 근거 분석	탄소-14를 지표물질로 제안하는 타당한 근거를 잘 살려내고, 표로 정리하여 한눈에 들어오게 작성.
[논제3]	다른 지표물질들의 한계점 분석	플라스틱, 규소, 닭뼈 등의 지표물질로서의 한계점을 명확히 하고, 표로 정리해 보기.
[논제3]	지표물질로서 탄소-14의 장단점	탄소-14의 장단점을 명확히 분석하고, 다른 물질들의 장단점도 알아둘 것.
일반	지질학적 시대 구분과 특징의 이해	지질학적 시대를 구분하는 기준과 각 시대의 특징을 정확히 파악할 것.