핀테크 열풍의 시작은 월스트리트입니다. IT기술을 통한 금융비지니스를 바꾸는 시도들이 거대한 태풍으로 바뀐 후 한국도 하나씩 둘씩 바뀌어나갔습니다. AI도 비슷할 듯 합니다. AI 도입을 본격화한 지금 금융산업에서의 AI의 미래는 월스트리트가 보여줄 듯 합니다. 그래서 Evident The Brief를 받아보고 있습니다. 관련한 내용을 읽으면서 월스트리트에서 AI를 어떻게 바라보고 활용하는지를 이해하고 있습니다. “요즘 AI, 요즘 월스트리트”는 뉴스레터중 같이 나누면 좋을 듯 한 내용을 정리해보려고 합니다.
1.
DeepSeek의 영향일까요?
Anthropic와 OpenAI가 고빈도트레이더나 퀀트를 채용하겠다고 합니다. 2차대전이후 폭발적인 수요가 있었던 물리학자. 냉전이후 이들을 찾은 곳이 월스트리트. 고빈도매매와 알고리즘트레이딩이 주류가 되면서 수학,물리학 혹은 IT분야의 우수인력을 휩쓸었습니다. AI가 주류가 되면서 고빈도매매를 통해 최적화의 경험을 가진 이들을 찾는다고 합니다. 월스트리에서 다시 실리콘밸리(Bay Area)로 인력이 이동?
알트만이 트위에 올린 글입니다.
Work in HFT shaving nanoseconds off latency or extracting bps from models have existential dread..
See this tweet, wonder if your skills could be better used making AGI. Apply to attend this party, meet the openai team.Build AGI.
Anthropic의 창업자는 이런 트윗을 올렸습니다.
Anthropic’s hosting a social in NYC in mid-June for quants interested in a career jump. Sign up link below!I was a quant trader for 4y, retired 2y, then Anthropic for 4y. Quant trading and retirement were good; Anthropic has been great
“existential dread”라는 어려운 표현도 배우네요 ㅠㅠㅠㅠㅠ
위 표현을 사용하는 이유를 알려고 하면 Agentic 이라는 표현을 같이 알아야 합니다. Agentic AI와 Agnetic Application과 같이 Agentic을 붙여서 사용합니다. 왜 이런 표현을 사용할까요? AI를 기업에 도입한 사례를 소개하는 자료에 자주 등장하는 표현이 ” Generative AI”입니다. 보편적이라는 뜻은 가진 Generative를 사용합니다. 기업이 AI를 도입하고자 할 때 구체적인 목표를 가집니다. 비용을 절약하고 생산성의 향상을 노립니다. 이를 위해 무언가 GenAI와 다른 것이 필요합니다. 그래서 Agentic AI라는 개념을 만들지 않았을까 합니다. NVIDIA가 생각하는 Agentic AI입니다. 제가 아래에서 눈여거 본 것은 “자율적으로”입니다. 영어로 할 때 autonoy”입니다. autonomy와 agent가 같이 결합한 의미로 읽힙니다.
AI의 다음 영역은 에이전틱 AI(Agentic AI)입니다. 정교한 추론과 반복적인 계획을 사용해 복잡한 다단계 문제를 자율적으로 해결하는 것이죠. 이는 산업 전반의 생산성과 운영을 향상시킬 것으로 기대됩니다.에이전틱 AI 시스템은 여러 출처로부터 방대한 양의 데이터를 수집해 독립적으로 문제를 분석하고 전략을 개발합니다. 또한 공급망 최적화, 사이버 보안 취약성 분석, 의사들의 시간 소모적인 업무를 돕는 작업 등을 수행합니다
에이전틱 AI 작동 프로세스:에이전틱 AI는 문제 해결을 위해 4단계 프로세스를 사용합니다.
인식(Perceive): AI 에이전트는 센서, 데이터베이스, 디지털 인터페이스 등 다양한 출처에서 데이터를 수집하고 처리합니다. 여기에는 의미 있는 특징을 추출하고, 객체를 인식하거나, 환경 내 관련 개체를 식별하는 작업이 포함되죠.
추론(Reason): 거대 언어 모델(Large Language Model, LLM)은 작업을 이해하고, 솔루션을 생성하며, 콘텐츠 제작, 비전 처리, 추천 시스템과 같은 특정 기능을 위한 전문 모델을 조율하는 역할을 하는 추론 엔진의 역할을 합니다. 이 단계에서는 검색 증강 생성(retrieval-augmented generation, RAG)과 같은 기술을 사용해 독점 데이터 소스에 접근하고 정확하고 관련성 있는 출력을 제공합니다.
행동(Act): 에이전틱 AI는 애플리케이션 프로그래밍 인터페이스(API)를 통해 외부 도구, 소프트웨어와 통합함으로써 수립한 계획에 따라 작업을 신속하게 실행할 수 있습니다. 또한 AI 에이전트가 작업을 올바르게 실행할 수 있도록 가드레일을 설정할 수 있죠. 예를 들어, 고객 서비스 AI 에이전트는 특정 금액까지만 클레임을 처리할 수 있고, 그 금액을 초과하는 클레임은 사람의 승인이 필요할 수 있습니다.
학습(Learn): 에이전틱 AI는 피드백 루프 혹은 상호작용에서 생성된 데이터를 시스템에 공급해 모델을 개선하는 ‘데이터 플라이휠(data flywheel)’을 통해 지속적으로 개선됩니다. 시간에 따라 적응하고 더욱 효과적으로 발전하는 이러한 능력은 비즈니스에 더 나은 의사 결정과 운영 효율성을 촉진하는 강력한 도구를 제공합니다.
에이전틱 AI란 무엇인가?중에서
이상의 정의는 엄밀히 이론적인 뒷받침을 가진 정의는 아닌 듯 합니다. 관련한 논문도 있네요.
AI Agents vs. Agentic AI: A Conceptual Taxonomy, Applications and Challenges
Is Agentic AI Replacing Generative AI & Predictive AI in Enterprise Setup?은 아래와 같이 비교합니다.
이런 관점에서 Agentic Application을 어떻게 정의해야 할까요? A Simple Definition of What Is, and What Is Not, an Agentic Application을 보면 단순하게 정의합니다.
Agentic application is any application that makes use of a Large Language Model (LLM) under the hood.
이와 비슷한 정의를 가질 듯 한 단어가 AI Agent입니다. What is an AI agent?에서 정의하는 내용입니다.
An AI agent is a system that uses an LLM to determine the control flow of an application
그래서 Agentic AI와 다른 것으로 이야기하는 경우도 있네요.이 때 핵심 개념이 Autonomy입니다. 하여튼 AI Agent, Agentic AI, Agentic Application을 어떻게 사용하든 다양한 방식으로 AI를 사용하고 있다는 점은 틀리지 않습니다.
3.
그러면 Agentic AI를 사용하는 사례들을 보겠습니다.
#1 Agentic Loan Underwriting
Use Case: Loan underwriting agents
Vendor: LangChain
Bank: Wells FargoWhy it’s interesting: The bank built an agentic tool capable of re-underwriting loans. It retrieves archived documents, pulls out relevant information, matches the data to internal systems and performs the calculations that ultimately determine the loan.
How they did it: The bank used LangGraph (an open source framework) to design how the individual agents tasked with each step of the process above would interact with each other. CIO Chintan Mehta noted that the bank is focused on building “compound systems,” meaning they’ll match different tasks to different models to make sure they’re not tapping expensive ones for simple jobs.
Impact: Each task handled by the tool is typically done by a human, and while a human still reviews the final output in this case, the agentic approach can improve efficiency.
#2 Agents That Upsell
Use Case: Multi-agent platform for sales
Vendor: Microsoft
Bank: BNYWhy it’s interesting: The bank’s AI tool Eliza uses agentic AI to help its sales teams recommend financial products to clients. Thirteen agents work together to determine the right product based on the specific question a client has and who that client is. For now, this tool still has a human in the loop and doesn’t yet “automatically generate a PowerPoint we can give to the client,” said Sarthak Pattanaik, the bank’s head of AI.
How they did it: The bank used Autogen (Microsoft’s open-source framework) to build guardrails for the agents’ responses and determine how each of the agents would interact with one another. Some of those agents gather information from the client while others search the bank’s full portfolio of products and services in order to determine the best way to answer the question, Pattanaik said. He also noted the bank is having AI engineers work directly with full-stack engineers to “componentize” parts of the tool that will make it easier to scale in the future.
Impact: The tool can save client-facing employees time by cutting down the number of people they need to speak to before answering a question, the bank says.
#3 Agentic Lawyers
Use Case: Legal Agentic Workflow (LAW)
Vendor: AWS, OpenAI, Snowflake
Bank: JPMorganChaseWhy it’s interesting: The bank’s research team published a paper about a suite of agentic tools aimed to aid legal teams with tasks like extracting dates, determining a contract’s lifecycle and comparing clauses of legal documents. LLMs tend to struggle with complex legal documents because of the amount of reasoning it takes to pull out the right information – such as the termination date of a contract instead of the effective date.
How they did it: The bank designed legal-specific tools that work together to pull out information from “financial-legal contracts.” The bank’s proposed agentic workflow takes user questions – relating to contract lifecycle or the parties involved in a particular agreement, for example – and turns them into code which it runs to retrieve the relevant information or summarize the relevant parts of a document.
Impact: The bank says it was able to accurately determine the termination date of a contract more than 95% of the time using its workflow. Doing the same task, OpenAI’s GPT-3.5-Turbo was accurate less than 3% of th
