1.
ChatGPT가 여전히 주요한 화두입니다. 월스트리트도 예외는 아닙니다. 다만 긍정적이지 않습니다.현재까지 사용금지조치를 취한 은행들입니다.
Bank of America added ChatGPT to a list of unauthorized apps that also includes WhatsApp, and told employees in internal meetings that they must have new technology vetted before using it in communications, according to sources familiar with the matter who spoke with Bloomberg.
Citigroup Inc. and Goldman Sachs Group Inc. also restricted employees’ use of the chatbot through an automatic restriction on third-party software, while Deutsche Bank banned staffers from using the chatbot and disabled employees’ access to it, according to the sources (Citigroup, Goldman Sachs, Deutsche Bank and Bank of America did not respond to a Forbes request for details).
Wells Fargo confirmed to Forbes it is “imposing usage limits” on ChatGPT as part of its control procedures on third-party software, and is evaluating “safe and effective ways” of using chatbots like ChatGPT.
JPMorgan Chase also restricted employees’ use of ChatGPT as part of the bank’s “normal controls around third-party software,” multiple outlets reported earlier this week, though the Telegraph had previously reported the restriction came amid concerns sensitive financial data could be shared with the chatbot.
Workers’ ChatGPT Use Restricted At More Banks—Including Goldman, Citigroup중에서
왜 사용금지를 하였을까요? 핵심은 근거와 정확성입니다. Wave Of Wall Street Banks Join JPMorgan In ChatGPT Crackdown 도 정확성을 근거로 소개하고 있습니다.
here’s no doubt the AI-powered platform has saved the time of some traders and bankers. But some have called that into question:
“It may save time, but we don’t know if it’s true, which is the biggest downside of the tool.
“It can be used like an intelligent colleague in the office, going over your work and improving it,” Oded Netzer, a professor at Columbia Business School who researches data and technology, told Bloomberg.
또다른 이유는 규제입니다. 같은 글입니다. chatGPT가 따라서 의사결정을 한 일에 대해서 ‘이유’를 설명하여야 하는데 설명할 수 있느냐는 이유입니다.
And why the hesitation to quickly embrace ChatGPT? Well, there’s this: “When the SEC knocks on your door and asks why did you execute that transaction, you have to have a better answer than, ‘Well, the machine told me to,'” Larry Tabb, an analyst at Bloomberg Intelligence, explained.
물론 사용금지를 하는 도구가 chatGPT만은 아닙니다. SNS도 사용금지를 하고 있다고 합니다. 그러면 전적으로 사용금지를 할까요? 블룸버그에 따르면 몇 가지 시험을 했다고 합니다.
Bloomberg noted some of the uses of ChatGPT by industry insiders:
- A salesperson at a US bank used ChatGPT’s search engine on his personal device to get an overview of a client. The task was completed in less time than it would take to scour the internet, but the person said it couldn’t be used in an internal report and had to be cross-checked for accuracy.
- An oil trader used a version of ChatGPT to write a research note on the outlook for crude. It read well, she said, but the information was out-of-date and had to be fixed.
- A stock trader in Taipei used it to compile key takeaways from US earnings, sparing himself tedious copying and pasting between documents. Still, he based investment decisions on his own notes. *
- And a bond trader in mainland China wrote routine reports on policy analysis using AI to save time — part of which she then spent carefully fact-checking.
가장 재미있는 부분은 원유시장 분석보고서입니다. 저도 같은 질문을 chatGPT에게 했습니다. 결과보고서입니다. 약간 손을 보면 훌륭한 보고서가 될까요?
국제금융센터가 글로벌 은행권의 ChatGPT 활용 가능성 및 과제라는 보고서를 발간하였습니다. 유료입니다만 초록은 공개하였습니다. 앞서 글과 큰 차이는 없습니다.
ㅁ [현황] 작년 11월말 미국 인공지능 연구소 OpenAI가 대중에 무료로 공개한 생성형 인공지능(Generative AI) 챗봇(Chatbot)인 「ChatGPT」가 세계적인 주목을 받음에 따라 디지털 혁신을 추진 중인 글로벌 은행권의 관심이 증대
ㅁ [ChatGPT 활용 가능성] 글로벌 은행들은 다양한 업무에서 ChatGPT에 탑재된 기능을 활용해 ▲조직의 생산성 및 효율성 향상 ▲고객경험 및 충성도 개선 ▲보안 및 리스크 관리 강화 등을 모색할 수 있을 것으로 기대
ㅇ (생산성 및 효율성 향상) ChatGPT를 통한 업무의 자동화가 은행 전반의 생산성을 제고하는 동시에 은행 내 작업 부하를 줄이고 작업 완료 속도를 높여 조직 전체가 보다 효율적으로 운영되도록 지원
ㅇ (고객경험 개선) ChatGPT를 활용해 △고객의 문의에 더 빠른 대응은 물론 △고품질의 개인화된 서비스 및 마케팅 제공 및 △흥미로운 디지털 콘텐츠 창출 등이 가능해지면서 고객만족도 향상을 도모하고, 신규 수익원 창출 기회로도 활용
ㅇ (보안 및 리스크 관리 강화) 고객은 기본적으로 은행이 높은 수준의 보안을 제공하고, 현명한 의사결정을 내리기 원하기 때문에 △사기거래 등 의심 활동 및 △잠재 리스크를 효과적이고 신속하게 식별하기 위한 ChatGPT의 활용 역시 중요
ㅁ [평가 및 전망] 생성형·대화형 AI 기술에 대한 중요성에 비해 국내외 대다수 은행들의 준비와 대응은 아직 시작단계. 다만, 앞으로 AI 기술이 높은 성장세를 보이면서 금융산업에 상당한 영향을 미칠 전망
ㅇ 일부에서는 금융업 등 대부분의 기업이 ‘야생으로 방출된 바이러스’라 할 수 있는 ChatGPT에 완벽히 준비가 되지 않은 상황이라고 지적(MIT 연구원 Paul Kedrosky)
ㅇ 그러나 ChatGPT가 공개된 `22년을 생성형 AI의 전환점으로 보면서 향후 수년 동안 금융기관들의 동 기술 채택이 증가할 가능성(Wharton School 교수 Ethan Mollick, JPMorgan 등)
ㅁ [향후 과제] ChatGPT 등 AI의 발전 잠재력에도 불구, ▲정보 신뢰성 한계 ▲고객 데이터 보호 우려 ▲도입비용 부담 ▲규제 도입 등이 쟁점화되고 있어 앞으로 은행권은 관련 추이를 주의 깊게 살펴보면서 구체적인 활용방안도 함께 강구할 필요
이상의 논의에서 가장 중요한 점은 규제입니다. chatGPT를 이용한 금융서비스를 제공할 경우 금융회사가 전적으로 서비스에 대해 책임을 져야 하기 때문에 아마도 이 때문에 우리금융경영연구소의 차세대 챗봇서비스 ChatGPT의 주요 특징과 시사점 는 챗봇서비스와 chatGPT을 연결하는 전망을 내놓는듯 합니다.
2.
ChatGPT와 관련한 여러가지 보고서들이 나오고 있습니다. 가능성을 주로 이야기하지만 한계라는 부분에서 같이합니다. 한국지능정보사회진흥원의 ChatGPT는 혁신의 도구가 될 수 있을까? : ChatGPT 활용 사례 및 전망 중 일부분입니다. 정확성을 거론하고 있습니다.
이런 한계를 JPEG에 비유한 글이 유명합니다.
ChatGPT Is a Blurry JPEG of the Web(ChatGPT는 웹의 흐릿한 JPEG입니다)
SF작가인 테드 창의 칼럼으로 chatGPT을 이렇게 묘사합니다.
Xerox 복사기에 대한 이번 사건은 오늘 염두에 둘 가치가 있다고 생각한다. 연구자들은 이러한 모델을 대형 언어 모델이라고 부른다. 다음과 같은 시나리오를 생각해보자. 인터넷에 접속할 수 없게 되는 상황에서 웹에 있는 모든 텍스트의 압축 사본을 작성하여 개인 서버에 저장할 수 있다. 하지만 개인 서버에는 필요한 공간이 1%밖에 없다. 따라서 텍스트에서 통계적 규칙성을 식별하는 손실 알고리즘을 작성하여 특수한 파일 형식으로 저장한다. 계산능력은 사실상 무제한이므로 알고리즘에 의해 통계적 규칙성을 식별할 수 있으며 이를 통해 원하는 압축비율인 100:1을 달성할 수 있다.
문제는 텍스트가 매우 압축되어 있기 때문에 정확한 인용구를 검색하여 정보를 찾을 수 없다는 것이다. 이 문제를 해결하려면 질문 형식으로 쿼리를 수신하고 서버에 있는 정보의 요지를 전달하는 답변으로 응답하는 인터페이스를 만들어야 한다.
지금까지 설명한 내용은 Chat GPT 또는 대부분의 ChatGPT 언어 모델과 비슷하다. 채팅 GPT는 웹에서 텍스트가 흐릿한 JPEG이다. JPEG가 고해상도 이미지의 많은 정보를 보유하는 것과 마찬가지로 웹상의 많은 정보를 보유하지만 정확한 비트 시퀀스를 찾고 있다면 찾을 수 없고 근사치만 얻을 수 있다.
손실 압축에 비유하는 것은 Chat GPT의 기능을 이해하는 방법이며, 또한 ChatGPT와 같은 대형 언어 모델이 사실에 관한 질문에 대한 “설명” 즉, 비논리적인 답변을 하는 것을 이해하는 방법이기도 하다. ChatGPT가 생성하는 이러한 환각은 압축 아티팩트이지만 Xerox 복사기에서 생성된 잘못된 라벨과 마찬가지로, 이러한 환각은 그것들을 원본과 비교해야 할 정도로 충분히 그럴듯하다. 만약 압축 알고리즘이 원본의 99%가 폐기된 후에 텍스트를 재구성하도록 설계된다면, 우리는 그것이 만들어내는 것의 상당 부분이 완전히 조작된 것이라고 예상해야 한다. 이미지 프로그램이 압축 과정에서 손실된 픽셀을 재구성해야 할 경우, 주변의 픽셀을 보고 평균을 계산한다.
ChatGPT 는 흐릿한 JPEG of the Web 1/2
ChatGPT 는 흐릿한 JPEG of the Web 2/2
chatGPT를 보면서 계속 질문을 하였던 것은 ‘창의성’입니다. 질문과 연관된 수많은 텍스트를 압축하여 보여주는 것이 창의성은 아닙니다. 무척 강력한 계산기라고 할 뿐입니다. 뇌과학이 말하는 창의성입니다. 물론 수많은 의견중 하나입니다.
뇌과학에서 말하는 창의적인 순간은 현재 가진 지식과 경험에 매몰되지 않고 상관없어 보이는 지식들을 서로 연결시키는 수많은 시도 속에서 탄생한다. 계속되는 실패에도 포기하지 않는 사람들, 끝까지 새로운 것을 시도하는 사람들이 혁신적이고 창의적인 아이디어를 만든다. 이 시도는 당장의 생존과 상관없고, 성공 확률이 매우 낮다. 그럼에도 불구하고 창의적인 시도에 열정적인 사람들이 있다. 우리가 예술가라 부르는 바로 그 사람들. 뇌와 창의성의 관계가 밝혀질수록 예술가에게 비목적적 사고가 왜 중요한지, 일상의 생존에 함몰되는 상황이 왜 유독 치명적인지 잘 알 수 있다. 여러 번 실패해도 생존을 위협받지 않고 마음 편히 새로운 걸 시도할 수 있는, 그래도 괜찮을 수 있게 하는 안전망이 예술가의 창의성에 어떻게 영향을 미칠지도. 그다음은 뇌과학이 아닌 복지의 영역이다.
뇌과학으로 본 창의성 “예술가의 창의성은 어디에서 나오나?”중에서
상관없어 보이는 지식이 중요합니다. 정재승 교수는 “평소 신호를 주고받지 않은 멀리 떨어져 있는 뇌의 영역끼리의 교감”이라고 합니다. chatGPT가 동작하는 원리와 다릅니다.
오늘 기사를 보니까 대통령이 다음과 같은 지시를 하였네요 ㅠㅠㅠㅠ
행안부는 지난 16일 ‘챗GPT 관련 전문가 자문회의’를 비공개로 열고 공직사회에서의 AI 기술 사용법에 대해 논의했다. 이날 회의에서는 공무원들이 보고서 작성 시 AI를 어떻게 이용할 수 있고, 도입 제약요인에는 무엇이 있는지를 두고 열띤 토론이 벌어졌다.이날 정부가 전문가들에게 자문을 구한 방안은 공무원들끼리 주고받는 공문의 초안만 AI가 우선 작성하는 시스템이다. 공무원들은 정책을 만들기 전 보고를 위해 국내외 동향파악, 기술·법규 사례, 부작용, 대안, 전문가 의견 등의 자료를 수집한다. 자료는 공식문서뿐 아니라 메모·첨부 형태로 각 부처에 쌓여있는데 이를 데이터로 가공해 AI에게 학습시키면 원하는 주제에 맞게 자동으로 보고서 초안을 만들 수 있다.
“챗GPT 활용” 尹지시에…공무 보고서 초안 AI에 맡긴다중에서
