GPT시대, 코딩기술자의 쇠퇴를 생각하며(번역)

1.
OpenAI 쿠데타가 3일천하로 끝났습니다. 알트만은 반란군을 진압하고 화려하게 복귀하였습니다. 그리고 뉴욕타임즈는 자본주의자들의 승리라고 묘사합니다. 기술의 장미빛 미래를 이야기하는 진영과 잿빛 미래를 이야기하는 진영간의 싸움에서 잿빛이 졌습니다. 그리고 마지막 문장이 아래입니다.

이제 유토피아주의자들이 운전석에 앉았다. 전속력으로 질주하게 될거다(Now, the utopians are in the driver’s seat. Full speed ahead)

A.I. Belongs to the Capitalists Now의 전문입니다. DeepML번역입니다.

지난 5일 동안 OpenAI에서 일어난 일은 여러 가지로 설명할 수 있습니다: 흥미진진한 이사회 드라마, 미국 최대 스타트업 중 하나를 둘러싼 줄다리기, 인공지능이 더 빨리 발전하기를 원하는 사람들과 그 속도를 늦추려는 사람들 간의 충돌.하지만 가장 중요한 것은 인공지능에 대한 두 가지 상반된 비전 간의 싸움이었습니다.

한 쪽에서는 인공지능을 증기기관, 전기, 개인용 컴퓨터 등 세상을 바꾼 혁신의 최신작으로, 올바르게 활용하면 새로운 번영의 시대를 열고 인공지능의 잠재력을 활용하는 기업에게 막대한 돈을 벌어다 줄 수 있는 혁신적인 새 도구로 여겼습니다.또 다른 시각에서 인공지능은 외계 생명체, 즉 신경망의 수학적 심연에서 소환된 리바이어던에 가깝기 때문에 인공지능이 우리 모두를 장악하고 죽이는 것을 막기 위해 극도로 신중하게 억제하고 배치해야 합니다.

지난 금요일 이사회에서 그를 최고 경영자로 해고했던 샘 알트먼이 화요일에 OpenAI로 복귀하면서, 이 두 가지 견해 사이의 싸움은 끝난 것으로 보입니다.

What happened at OpenAI over the past five days could be described in many ways: A juicy boardroom drama, a tug of war over one of America’s biggest start-ups, a clash between those who want A.I. to progress faster and those who want to slow it down.

But it was, most importantly, a fight between two dueling visions of artificial intelligence.

In one vision, A.I. is a transformative new tool, the latest in a line of world-changing innovations that includes the steam engine, electricity and the personal computer, and that, if put to the right uses, could usher in a new era of prosperity and make gobs of money for the businesses that harness its potential.

In another vision, A.I. is something closer to an alien life form — a leviathan being summoned from the mathematical depths of neural networks — that must be restrained and deployed with extreme caution in order to prevent it from taking over and killing us all.

With the return of Sam Altman on Tuesday to OpenAI, the company whose board fired him as chief executive last Friday, the battle between these two views appears to be over.

자본주의 팀이 승리했습니다. 팀 리바이어던이 패배했습니다.

OpenAI의 새 이사회는 적어도 초기에는 세 명으로 구성될 예정입니다: Quora의 최고 경영자이자 기존 이사회에서 유일하게 잔류한 아담 디안젤로(Adam D’Angelo), Facebook과 Salesforce의 전 임원인 브렛 테일러(Bret Taylor), 그리고 전 재무부 장관인 로렌스 서머스(Lawrence H. Summers)입니다. 이사회는 앞으로 더 늘어날 것으로 예상됩니다.

OpenAI의 최대 투자자인 Microsoft도 앞으로 OpenAI의 거버넌스에서 더 큰 목소리를 낼 것으로 예상됩니다. 여기에는 이사회 자리도 포함될 수 있습니다.

알트먼의 축출을 추진했던 이사 중 3명이 이사회에서 물러났습니다: OpenAI의 수석 과학자 일리야 수츠케버(이후 자신의 결정을 철회함), 조지타운대학교 보안 및 신흥 기술 센터의 전략 담당 이사 헬렌 토너, RAND 코퍼레이션의 기업가이자 연구원인 타샤 맥컬리입니다.

Team Capitalism won. Team Leviathan lost.

OpenAI’s new board will consist of three people, at least initially: Adam D’Angelo, the chief executive of Quora (and the only holdover from the old board); Bret Taylor, a former executive at Facebook and Salesforce; and Lawrence H. Summers, the former Treasury secretary. The board is expected to grow from there.

OpenAI’s largest investor, Microsoft, is also expected to have a larger voice in OpenAI’s governance going forward. That may include a board seat.

Gone from the board are three of the members who pushed for Mr. Altman’s ouster: Ilya Sutskever, OpenAI’s chief scientist (who has since recanted his decision); Helen Toner, a director of strategy at Georgetown University’s Center for Security and Emerging Technology; and Tasha McCauley, an entrepreneur and researcher at the RAND Corporation.

서트케버, 토너, 맥컬리는 10년 전 인공지능에 대해 깊이 고민했던 학자, 실리콘 밸리의 미래학자, 컴퓨터 과학자 등 다양한 사람들이 모인 대표적인 인물입니다.이들은 두려움과 경외감이 뒤섞인 시선으로 인공지능 기술을 바라보았고, 인공지능이 인간의 통제 능력을 뛰어넘는 ‘특이점’과 같은 이론적 미래 상황에 대해 걱정했습니다. 많은 사람들이 데이터와 이성을 활용해 도덕적 결정을 내리는 운동인 ‘효과적인 이타주의자’ 같은 철학적 그룹에 소속되어 있었으며, 기술의 파괴적인 영향을 최소화하기 위해 인공지능 분야에서 일하도록 설득받기도 했습니다.

2015년 OpenAI가 비영리 단체로 설립되었을 때 인공지능에 대한 이러한 분위기는 2019년 영리 부문을 시작한 후에도 비영리 이사회가 회사 운영을 통제하고 경영진을 교체할 수 있는 복잡한 지배구조를 유지한 이유를 설명하는 데 도움이 됩니다.당시 업계에서는 자본주의의 힘으로부터 인공지능을 보호하는 것을 기업 정관과 헌장에 명시해야 할 최우선 과제로 여겼습니다.

하지만 2019년 이후 많은 변화가 있었습니다.강력한 인공지능은 더 이상 단순한 사고 실험이 아니라 매일 수백만 명의 사람들이 사용하는 ChatGPT와 같은 실제 제품 안에 존재합니다. 세계 최대 기술 기업들은 더욱 강력한 시스템을 구축하기 위해 경쟁하고 있습니다.그리고 인공지능을 구축하고 배포하는 데 수십억 달러가 투자되고 있습니다.

Mr. Sutskever, Ms. Toner and Ms. McCauley are representative of the kinds of people who were heavily involved in thinking about A.I. a decade ago — an eclectic mix of academics, Silicon Valley futurists and computer scientists. They viewed the technology with a mix of fear and awe, and worried about theoretical future events like the “singularity,” a point at which A.I. would outstrip our ability to contain it. Many were affiliated with philosophical groups like the Effective Altruists, a movement that uses data and rationality to make moral decisions, and were persuaded to work in A.I. out of a desire to minimize the technology’s destructive effects.

This was the vibe around A.I. in 2015, when OpenAI was formed as a nonprofit, and it helps explain why the organization kept its convoluted governance structure — which gave the nonprofit board the ability to control the company’s operations and replace its leadership — even after it started a for-profit arm in 2019. At the time, protecting A.I. from the forces of capitalism was viewed by many in the industry as a top priority, one that needed to be enshrined in corporate bylaws and charter documents.

But a lot has changed since 2019. Powerful A.I. is no longer just a thought experiment — it exists inside real products, like ChatGPT, that are used by millions of people every day. The world’s biggest tech companies are racing to build even more powerful systems. And billions of dollars are being spent to build and deploy A.I. inside businesses, with the hope of reducing labor costs and increasing productivity.

케빈 루스와 케이시 뉴턴은 빠르게 변화하는 기술 세계를 이해하는 팟캐스트인 하드 포크의 진행자입니다.

새로운 이사회 멤버들은 이러한 프로젝트를 감독할 것으로 기대되는 비즈니스 리더들입니다. 신임 이사회 의장인 테일러는 트위터 이사회 의장이던 지난해 트위터를 엘론 머스크에게 매각하는 데 앞장섰던 실리콘밸리의 노련한 딜 메이커입니다.또한 서머스는 기술 변화가 사회에 ‘순선’이라고 믿는 저명한 경제학자인 ‘우파 자본주의자’입니다.

재구성된 OpenAI 이사회에는 여전히 경계의 목소리가 있을 수 있고, 인공지능 안전 운동의 인사들도 있을 수 있습니다.하지만 이전 이사회처럼 거부권을 행사하거나 회사를 한순간에 효과적으로 폐쇄할 수 있는 권한은 없을 것입니다.그리고 이들의 선호도는 회사 경영진과 투자자와 같은 다른 사람들의 선호도와 균형을 이룰 것입니다.

이는 Microsoft나 OpenAI의 기술에 의존하는 수천 개의 다른 비즈니스에 좋은 소식입니다. 전통적인 거버넌스는 갑작스러운 폭발이나 급하게 인공지능 공급업체를 바꾸어야 하는 변화의 위험이 적다는 것을 의미합니다.

Kevin Roose and Casey Newton are the hosts of Hard Fork, a podcast that makes sense of the rapidly changing world of technology. Subscribe and listen.

The new board members are the kinds of business leaders you’d expect to oversee such a project. Mr. Taylor, the new board chair, is a seasoned Silicon Valley deal maker who led the sale of Twitter to Elon Musk last year, when he was the chair of Twitter’s board. And Mr. Summers is the Ur-capitalist — a prominent economist who has said that he believes technological change is “net good” for society.

There may still be voices of caution on the reconstituted OpenAI board, or figures from the A.I. safety movement. But they won’t have veto power, or the ability to effectively shut down the company in an instant, the way the old board did. And their preferences will be balanced alongside others’, such as those of the company’s executives and investors.

That’s a good thing if you’re Microsoft, or any of the thousands of other businesses that rely on OpenAI’s technology. More traditional governance means less risk of a sudden explosion, or a change that would force you to switch A.I. providers in a hurry.

인공지능의 중요성이 날로 커지고 있는 상황에서 미래에 대한 우려를 넘어선 기업의 이익이 승리한 OpenAI에서 일어난 일은 어쩌면 피할 수 없는 일이었을지도 모릅니다. 4차 산업혁명을 가져올 수 있는 잠재력을 가진 기술이 막대한 돈이 걸려 있는 상황에서 그 속도를 늦추려는 세력에 의해 장기적으로 통제되기는 쉽지 않았을 것입니다.

인공지능 업계에는 아직도 구태의연한 태도의 흔적이 남아 있습니다.OpenAI의 전직 직원들이 모여 설립한 라이벌 회사인 Anthropic은 시장 압력으로부터 자신을 보호하기 위한 법적 구조인 공익법인으로 설립되었습니다. 그리고 활발한 오픈소스 인공지능 운동은 인공지능이 기업의 통제에서 벗어나야 한다고 주장하고 있습니다.

그러나 이는 인공지능을 개발하는 사람들이 인공지능을 경이로움과 공포의 대상으로 여기고 조직적 거버넌스를 통해 인공지능의 힘을 억제하려 했던 구시대 인공지능의 마지막 흔적이라고 보는 것이 가장 타당합니다.

And perhaps what happened at OpenAI — a triumph of corporate interests over worries about the future — was inevitable, given A.I.’s increasing importance. A technology potentially capable of ushering in a Fourth Industrial Revolution was unlikely to be governed over the long term by those who wanted to slow it down — not when so much money was at stake.

There are still a few traces of the old attitudes in the A.I. industry. Anthropic, a rival company started by a group of former OpenAI employees, has set itself up as a public benefit corporation, a legal structure that is meant to insulate it from market pressures. And an active open-source A.I. movement has advocated that A.I. remain free of corporate control.

But these are best viewed as the last vestiges of the old era of A.I., in which the people building A.I. regarded the technology with both wonder and terror, and sought to restrain its power through organizational governance.

2.
아래는 GPT시대 프로그램머 그중에서 코딩이라는 직무에 대한 칼럼입니다. 뉴요커에 실린 A Coder Considers the Waning Days of the Craft입니다. 코딩의 미래에 대한 비관적인 생각을 담담히 적고 있습니다. 엔지니어에게 필요한 능력이 Skill과 Writing이라고 생각하는데.. 확실히 글쓰는 능력이 뛰어납니다..

저는 부모님이 제가 글을 읽고 쓸 수 있게 해주셨던 것처럼 제 아이들도 컴퓨터를 프로그래밍할 수 있게 해주어야 한다는 것을 항상 당연하게 생각해 왔습니다. 컴퓨터 프로그래밍은 가장 최근의 예술이지만 영화 제작에서 물리학에 이르기까지 모든 것을 아우르는 가장 필수적인 기술 중 하나이며 날이 갈수록 그 중요성이 더욱 커지고 있습니다. 코드를 유창하게 다룰 수 있다면 아이들의 문해력이 완성되고 취업에도 도움이 될 것입니다. 하지만 이 글을 쓰는 지금 아내는 3주 정도 후에 태어날 첫 아이를 임신 중입니다. 저는 전문적으로 코딩을 하지만, 아이가 타이핑을 할 수 있을 때쯤이면 코딩이라는 귀중한 기술이 세상에서 사라질지도 모릅니다.

저는 지난 여름 금요일 아침, 작은 취미 프로젝트를 진행하던 중 처음으로 이런 생각을 하기 시작했습니다. 몇 달 전, 제 친구 Ben과 저는 컴퓨터로만 타임즈 스타일의 십자말풀이를 만들기로 결심했었죠. 2018년에 우리는 소프트웨어의 도움을 받아 토요일 퍼즐을 만들었는데, 여기저기 우리의 취향을 적용했을 뿐 별다른 기여를 하지 못했다는 사실에 놀랐습니다. 이제 저희는 사람의 손길이 필요 없는 십자말풀이 프로그램을 만들려고 시도했습니다.

과거에 이런 프로젝트를 진행했을 때는 하드웨어와 소프트웨어의 두 가지 요소를 모두 고려했는데, 벤의 강점은 전자를 지향했습니다. 지하철이 아파트 근처 정류장에 접근하면 불이 켜지는 네온사인을 만든 적이 있습니다.

I have always taken it for granted that, just as my parents made sure that I could read and write, I would make sure that my kids could program computers. It is among the newer arts but also among the most essential, and ever more so by the day, encompassing everything from filmmaking to physics. Fluency with code would round out my children’s literacy—and keep them employable. But as I write this my wife is pregnant with our first child, due in about three weeks. I code professionally, but, by the time that child can type, coding as a valuable skill might have faded from the world.

I first began to believe this on a Friday morning this past summer, while working on a small hobby project. A few months back, my friend Ben and I had resolved to create a Times-style crossword puzzle entirely by computer. In 2018, we’d made a Saturday puzzle with the help of software and were surprised by how little we contributed—just applying our taste here and there. Now we would attempt to build a crossword-making program that didn’t require a human touch.

When we’ve taken on projects like this in the past, they’ve had both a hardware component and a software component, with Ben’s strengths running toward the former. We once made a neon sign that would glow when the subway was approaching the stop near our apartments.

벤은 유리를 구부리고 변압기의 회로 기판에 배선을 연결했습니다. 그리고 운송 데이터를 처리하는 코드를 작성했습니다. 벤은 나름대로 전문적인 코딩 경험이 있었지만, 짧고 얕은 수준이었으며 지금은 약 20년이 지나서 심각한 코딩은 저에게 맡겼습니다. 하지만 새로운 십자말풀이 프로젝트를 위해 벤은 서드파티를 소개했습니다. 그는 ChatGPT Plus 구독에 가입하고 코딩 도우미로 GPT-4를 사용하고 있었습니다.
인공지능에 대해 더 알아보기

이상한 일이 일어나기 시작했습니다. 벤과 저는 프로젝트에 필요한 소프트웨어에 대해 이야기를 나누곤 했습니다. 그리고 놀랍게도 얼마 지나지 않아 벤이 직접 전달해 주었습니다. 한 번은 사전 파일에서 무작위로 100개의 줄을 인쇄하는 명령이 필요했습니다. 몇 분 동안 이 문제에 대해 생각하다가 생각이 떠오르지 않자 구글링을 시도했습니다. 제가 수집할 수 있는 것들을 사용하여 몇 가지 잘못된 시작을 했고, 제가 프로그래밍을 하는 동안 벤은 GPT-4에게 원하는 것을 말했고 완벽하게 실행되는 코드를 얻었습니다.

이런 명령어는 까다롭기로 악명이 높기 때문에 누구나 다 찾아봅니다. 진짜 프로그래밍이 아니니까요. 며칠 후, 벤은 사전에서 단어를 평가하는 iPhone 앱이 있으면 얼마나 좋을지 이야기했습니다. 하지만 그는 아이폰 앱을 만드는 것이 얼마나 힘든 일인지 전혀 몰랐습니다.

Ben bent the glass and wired up the transformer’s circuit board. I wrote code to process the transit data. Ben has some professional coding experience of his own, but it was brief, shallow, and now about twenty years out of date; the serious coding was left to me. For the new crossword project, though, Ben had introduced a third party. He’d signed up for a ChatGPT Plus subscription and was using GPT-4 as a coding assistant.
More on A.I.

Something strange started happening. Ben and I would talk about a bit of software we wanted for the project. Then, a shockingly short time later, Ben would deliver it himself. At one point, we wanted a command that would print a hundred random lines from a dictionary file. I thought about the problem for a few minutes, and, when thinking failed, tried Googling. I made some false starts using what I could gather, and while I did my thing—programming—Ben told GPT-4 what he wanted and got code that ran perfectly.

Fine: commands like those are notoriously fussy, and everybody looks them up anyway. It’s not real programming. A few days later, Ben talked about how it would be nice to have an iPhone app to rate words from the dictionary. But he had no idea what a pain it is to make an iPhone app.

몇 번 시도해봤지만 절반만 작동하는 수준에서 벗어나지 못했습니다. Apple의 프로그래밍 환경이 너무 힘들었습니다. 새로운 언어뿐만 아니라 코드를 편집하고 실행하기 위한 새로운 프로그램도 배워야 했고, 수많은 ‘U.I. 구성 요소’와 이를 연결하는 복잡한 방법도 배워야 했으며, 마지막으로 앱을 패키징하는 방법도 알아내야 했습니다. 새로 배워야 할 것들이 산더미처럼 쌓여도 그만한 가치가 없어 보였습니다. 다음 날 아침 눈을 떴을 때 받은 편지함에서 Ben이 말한 대로 정확히 작동하는 앱을 발견했습니다. 완벽하게 작동하는 데다 디자인까지 귀여웠습니다. 벤은 몇 시간 만에 만들었다고 말했습니다. GPT-4가 대부분의 작업을 수행했습니다.

지금까지 대부분의 사람들이 인공지능을 경험했지만 모두가 감명을 받은 것은 아닙니다. 벤은 최근 “인공지능이 저를 위해 코드를 작성하기 시작하기 전까지는 인공지능을 정말 존경하기 시작하지 않았습니다.”라고 말했습니다. 저는 프로그래머가 아닌 사람 중에도 본질적으로 회의적이고 ChatGPT가 엉터리 산문이나 가짜 사실을 만들어내는 것을 본 적이 있는 사람들은 여전히 인공지능의 능력을 과소평가하고 있다고 생각합니다.

I’d tried a few times and never got beyond something that half worked. I found Apple’s programming environment forbidding. You had to learn not just a new language but a new program for editing and running code; you had to learn a zoo of “U.I. components” and all the complicated ways of stitching them together; and, finally, you had to figure out how to package the app. The mountain of new things to learn never seemed worth it. The next morning, I woke up to an app in my in-box that did exactly what Ben had said he wanted. It worked perfectly, and even had a cute design. Ben said that he’d made it in a few hours. GPT-4 had done most of the heavy lifting.

By now, most people have had experiences with A.I. Not everyone has been impressed. Ben recently said, “I didn’t start really respecting it until I started having it write code for me.” I suspect that non-programmers who are skeptical by nature, and who have seen ChatGPT turn out wooden prose or bogus facts, are still underestimating what’s happening.

전통적으로 숙달하는 데 평생이 걸렸던 지식과 기술이 한 번에 삼켜지고 있습니다. 코딩은 항상 저에게 끝없이 깊고 풍부한 영역처럼 느껴졌습니다. 이제 저는 코딩에 대한 찬사를 쓰고 싶다는 생각을 하게 되었습니다. 이세돌 9단이 자꾸 생각납니다. 세돌은 세계 최고의 바둑 기사이자 한국의 국민 영웅이었지만, 2016년 알파고라는 컴퓨터 프로그램에게 패한 것으로 더 잘 알려져 있습니다. 세돌은 인공지능을 쉽게 이길 수 있을 것이라 믿고 대회에 참가했고, 며칠에 걸친 대국이 끝날 무렵에는 단 한 판도 내주지 않은 것에 대해 자랑스러워했습니다. 패배가 확실해지자 세돌은 기자회견에서 “너무 무력했던 것에 대해 사과하고 싶다”고 말했습니다. 그리고 3년 후 은퇴했습니다. 세돌은 익숙하면서도 절박하게 느껴지기 시작한 질문에 짓눌려 있는 듯했습니다: 내 인생의 대부분을 바친 바둑은 어떻게 될까?

Bodies of knowledge and skills that have traditionally taken lifetimes to master are being swallowed at a gulp. Coding has always felt to me like an endlessly deep and rich domain. Now I find myself wanting to write a eulogy for it. I keep thinking of Lee Sedol. Sedol was one of the world’s best Go players, and a national hero in South Korea, but is now best known for losing, in 2016, to a computer program called AlphaGo. Sedol had walked into the competition believing that he would easily defeat the A.I. By the end of the days-long match, he was proud of having eked out a single game. As it became clear that he was going to lose, Sedol said, in a press conference, “I want to apologize for being so powerless.” He retired three years later. Sedol seemed weighed down by a question that has started to feel familiar, and urgent: What will become of this thing I’ve given so much of my life to?

3.
제가 컴퓨터에 처음 매료된 것은 90년대 초 몬트리올에서 여섯 살 무렵 큰 형과 모탈 컴뱃을 플레이하면서였습니다. 형은 상대를 죽이는 끔찍하고 재치 있는 방법인 ‘치명타’에 대해 알려주었습니다. 우리 둘 다 어떻게 죽이는지 몰랐죠. 그는 MS-DOS 터미널에서 FTP 서버(파일이 저장된 곳)에 전화를 걸어 모호한 명령을 입력했습니다. 곧 그는 게임 내 모든 사망자에 대한 코드 지침이 담긴 한 페이지를 출력했습니다. 우리는 지하실로 돌아가 서로의 머리를 폭발시켰습니다.

저는 형이 해커라고 생각했어요. 다른 프로그래머들처럼 저도 원격 시스템에 침입해 제어하는 꿈을 꿨어요. 대혼란을 일으키는 것이 목적이 아니라 숨겨진 장소를 찾아 숨겨진 것을 알아내는 것이 목적이었죠. “1986년 로이드 블랭큰십이 쓴 ‘해커의 선언’에 “나의 범죄는 호기심에서 비롯된 것이다.”라는 구절이 있습니다. 1995년 개봉한 영화 ‘해커’에서 제가 가장 좋아하는 장면은 신참인 데이드 머피가 언더그라운드 클럽에서 자신을 증명하는 장면입니다. 누군가 배낭에서 무지개색 컴퓨터 책을 꺼내기 시작하자, 데이드가 표지만 보고도 국제 유닉스 환경에 관한 녹색 책, 국가안보국(NSA)이 신뢰하는 네트워크에 관한 빨간색 책, 분홍색 셔츠를 입은 남자가 있는 I.B.M. PC에 관한 책 등 각 책을 알아챕니다. Dade는 학교에서 스프링클러 시스템을 켜고 유조선의 밸러스트를 바로잡을 때 자신의 전문 지식을 활용하는데, 이 모든 것이 키보드를 두드리는 것만으로 가능합니다. 지식이 곧 힘이라는 교훈을 얻었습니다.

My first enchantment with computers came when I was about six years old, in Montreal in the early nineties, playing Mortal Kombat with my oldest brother. He told me about some “fatalities”—gruesome, witty ways of killing your opponent. Neither of us knew how to inflict them. He dialled up an FTP server (where files were stored) in an MS-DOS terminal and typed obscure commands. Soon, he had printed out a page of codes—instructions for every fatality in the game. We went back to the basement and exploded each other’s heads.

I thought that my brother was a hacker. Like many programmers, I dreamed of breaking into and controlling remote systems. The point wasn’t to cause mayhem—it was to find hidden places and learn hidden things. “My crime is that of curiosity,” goes “The Hacker’s Manifesto,” written in 1986 by Loyd Blankenship. My favorite scene from the 1995 movie “Hackers” is when Dade Murphy, a newcomer, proves himself at an underground club. Someone starts pulling a rainbow of computer books out of a backpack, and Dade recognizes each one from the cover: the green book on international Unix environments; the red one on N.S.A.-trusted networks; the one with the pink-shirted guy on I.B.M. PCs. Dade puts his expertise to use when he turns on the sprinkler system at school, and helps right the ballast of an oil tanker—all by tap-tapping away at a keyboard. The lesson was that knowledge is power.

하지만 실제로 어떻게 해킹을 배우게 되었나요? 제가 5학년이 되었을 때 저희 가족은 뉴저지에 정착했고, 고등학교에 다닐 때 쇼트 힐스 쇼핑몰에 있는 Borders 서점에 가서 Ivor Horton이 쓴 “Beginning Visual C++”를 샀어요. 이 책은 1,200페이지에 달하는 제 첫 번째 책이었습니다. 다른 많은 튜토리얼과 마찬가지로 처음에는 쉬웠는데 갑자기 어렵게 느껴졌습니다. 중세 학생들은 일반 학습자가 폰스 아지노룸에 실패하는 순간을 “엉덩이의 다리”라고 불렀습니다. 이 용어는 유클리드 원론 제1장의 명제 5항에서 영감을 얻은 것으로, 이 책에서 가장 어려운 개념입니다. 이 다리를 건너는 사람은 기하학을 마스터하게 되고, 그렇지 못한 사람은 초보자로 남게 됩니다. ‘비주얼 C++ 시작하기’의 4.3장, ‘동적 메모리 할당’에 관한 섹션은 제게는 그야말로 ‘징검다리’였습니다. 저는 건너지 못했습니다.

But how do you actually learn to hack? My family had settled in New Jersey by the time I was in fifth grade, and when I was in high school I went to the Borders bookstore in the Short Hills mall and bought “Beginning Visual C++,” by Ivor Horton. It ran to twelve hundred pages—my first grimoire. Like many tutorials, it was easy at first and then, suddenly, it wasn’t. Medieval students called the moment at which casual learners fail the pons asinorum, or “bridge of asses.” The term was inspired by Proposition 5 of Euclid’s Elements I, the first truly difficult idea in the book. Those who crossed the bridge would go on to master geometry; those who didn’t would remain dabblers. Section 4.3 of “Beginning Visual C++,” on “Dynamic Memory Allocation,” was my bridge of asses. I did not cross.

하지만 주제를 포기한 것도 아니었습니다. 상황이 바뀌기 시작한 순간이 기억납니다. 저는 장거리 비행기를 타고 있었는데, 박스형 검은색 노트북과 Borland C++ 컴파일러가 들어 있는 CD-ROM을 가지고 있었습니다. 컴파일러는 사용자가 작성한 코드를 컴퓨터가 실행할 수 있는 코드로 변환해주는데, 저는 이 컴파일러를 작동시키기 위해 며칠 동안 고군분투하고 있었습니다. 관례에 따르면 모든 코더의 첫 번째 프로그램은 “Hello, world”라는 단어를 생성하는 것 외에는 아무것도 하지 않습니다. 제 버전을 실행하려고 하면 성난 오류 메시지만 뜰 뿐이었습니다. 한 가지 문제를 해결하면 또 다른 문제가 발생했습니다. “해리 포터” 책을 읽고 빗자루를 손에 넣은 것 같았지만 아직 빗자루를 날게 하는 주문을 배우지 못한 것 같았습니다. 하지만 제가 해내면 무엇이 가능할지 알았기 때문에 한마음 한뜻으로 계속 노력했습니다. 제가 배운 것은 프로그래밍은 지식이나 기술이 아니라 인내심, 어쩌면 집착이 필요하다는 것이었습니다. 프로그래머는 지루한 장애물의 끝없는 퍼레이드를 견딜 수 있는 사람입니다. 초보자에게 전화로 그림도 없이 거의 모르는 언어로 가구를 조립하는 방법을 설명한다고 상상해 보세요. 터무니없는 제안을 했다는 반응만 돌아오고 모든 것이 엉망이 되었다고 상상해 보세요. 그렇다면 무언가를 조립하는 데 성공했을 때 더욱 달콤할 것입니다.비행기 통로에 엎드려서 마지막으로 엔터 키를 눌렀던 기억이 생생합니다. 저는 일어났습니다. 컴퓨터는 처음으로 제가 시킨 대로 작동했습니다. 커서 위에 “안녕하세요, 세상”이라는 단어가 컴퓨터의 음성으로 나타났습니다. 마치 지능이 깨어나 저에게 자신을 소개하는 것 같았습니다.

But neither did I drop the subject. I remember the moment things began to turn. I was on a long-haul flight, and I’d brought along a boxy black laptop and a CD-ROM with the Borland C++ compiler. A compiler translates code you write into code that the machine can run; I had been struggling for days to get this one to work. By convention, every coder’s first program does nothing but generate the words “Hello, world.” When I tried to run my version, I just got angry error messages. Whenever I fixed one problem, another cropped up. I had read the “Harry Potter” books and felt as if I were in possession of a broom but had not yet learned the incantation to make it fly. Knowing what might be possible if I did, I kept at it with single-minded devotion. What I learned was that programming is not really about knowledge or skill but simply about patience, or maybe obsession. Programmers are people who can endure an endless parade of tedious obstacles. Imagine explaining to a simpleton how to assemble furniture over the phone, with no pictures, in a language you barely speak. Imagine, too, that the only response you ever get is that you’ve suggested an absurdity and the whole thing has gone awry. All the sweeter, then, when you manage to get something assembled.I have a distinct memory of lying on my stomach in the airplane aisle, and then hitting Enter one last time. I sat up. The computer, for once, had done what I’d told it to do. The words “Hello, world” appeared above my cursor, now in the computer’s own voice. It seemed as if an intelligence had woken up and introduced itself to me.

4.
우리 대부분은 영화 “해커”에서 묘사된 해커가 된 적이 없습니다.프로그래머의 용어로 ‘해킹’은 코드를 통해 독창성을 표현하는 땜질에 불과합니다.저는 정식으로 프로그래밍을 공부한 적이 없고 그냥 컴퓨터가 유용하거나 즐거운 일을 하도록 만드는 일을 계속 해왔습니다.대학 1학년 때 2006년 마스터스 토너먼트 3라운드에서 타이거 우즈가 필드를 누비고 있을 때 저는 실시간으로 무슨 일이 일어나고 있는지 알고 싶었습니다.그래서 타이거 우즈가 버디를 하거나 보기를 할 때마다 pgatour.com의 리더보드를 스크랩하여 문자 메시지를 보내는 프로그램을 만들었습니다. 나중에 영어 수업에서 “율리시즈”를 읽은 후 책에서 무작위로 문장을 뽑아 음절을 세고 하이쿠를 조합하는 프로그램을 만들었는데, 요즘 챗봇보다 더 원시적인 언어의 역류이지만 그럼에도 불구하고 실제 시를 만들 수 있다고 생각했습니다:

산 채로 벗겨버릴 거야
불확실하게 그는 기다렸다
과거의 무거운

저는 코딩을 진지하게 받아들이기 시작했습니다.친구의 스타트업을 위해 프로그래밍을 하겠다고 제안했습니다.제가 알게 된 컴퓨팅의 세계는 방대하지만 마치 지질학적으로 층층이 쌓인 것처럼 조직화되어 있었습니다. 웹 브라우저에서 트랜지스터에 이르기까지 각 하위 영역 또는 시스템은 다른 오래된 하위 영역 또는 시스템 위에 구축되어 있으며, 그 층은 밀도가 높지만 읽기 쉽습니다. 더 깊이 파고들수록 레이싱 카 드라이버 재키 스튜어트가 “기계적 공감”이라고 불렀던 기계의 강점과 한계에 대한 감각, 즉 기계가 무엇을 할 수 있는지에 대한 감각이 발달하게 됩니다.

Most of us never became the kind of hackers depicted in “Hackers.” To “hack,” in the parlance of a programmer, is just to tinker—to express ingenuity through code. I never formally studied programming; I just kept messing around, making computers do helpful or delightful little things. In my freshman year of college, I knew that I’d be on the road during the third round of the 2006 Masters Tournament, when Tiger Woods was moving up the field, and I wanted to know what was happening in real time. So I made a program that scraped the leaderboard on pgatour.com and sent me a text message anytime he birdied or bogeyed. Later, after reading “Ulysses” in an English class, I wrote a program that pulled random sentences from the book, counted their syllables, and assembled haikus—a more primitive regurgitation of language than you’d get from a chatbot these days, but nonetheless capable, I thought, of real poetry:

I’ll flay him alive
Uncertainly he waited
Heavy of the past

I began taking coding seriously. I offered to do programming for a friend’s startup. The world of computing, I came to learn, is vast but organized almost geologically, as if deposited in layers. From the Web browser down to the transistor, each sub-area or system is built atop some other, older sub-area or system, the layers dense but legible. The more one digs, the more one develops what the race-car driver Jackie Stewart called “mechanical sympathy,” a sense for the machine’s strengths and limits, of what one could make it do.

친구 회사에서 저는 기계적인 동정심이 발달하는 것을 느꼈습니다. 2학년 때 친구와 함께 “제퍼디!”를 보고 있었는데 친구가 이 프로그램을 플레이 가능한 버전으로 만들자고 제안했습니다. 몇 시간 동안 생각하다가 실망스러운 마음에 제 능력 밖의 일이라고 결론을 내렸죠. 하지만 3학년이 되어서 다시 그 아이디어가 떠올랐을 때 저는 방법을 찾을 수 있었습니다.이제 기계로 무엇을 할 수 있는지 더 잘 알게 되었죠.그 후 14시간 동안 게임을 만들었습니다.몇 주 만에 친구들 사이에서 “짐보 제퍼디!”는 정기적인 활동이 되었습니다.그 경험은 심오했습니다. 사람들이 왜 공예에 인생을 쏟아 붓는지 이해할 수 있었습니다. 자신이 만든 물건을 다른 사람이 즐기는 모습을 보는 것만큼 좋은 일은 없으니까요.

그 와중에 저는 ‘페이퍼 체이스’에 완전히 빠져서 성적을 무시하기 시작했습니다. 과제만 열심히 했지, 수업은 하지 않았죠. 어느 날 밤, 저는 지하 컴퓨터실에서 6대 이상의 컴퓨터를 가져와 프로그램을 동시에 실행했습니다. 바닥에 숫자로 가득 찬 출력물을 깔고 경로 찾기 알고리즘을 생각했습니다. 그 대가로 아무것도 모르는 상태에서 기말고사를 치르는 반복되는 악몽을 실제로 경험했습니다. (저는 수학과에서 실수 분석 과목을 수강했습니다.) 2009년, 수십 년 만에 가장 심각한 금융 위기가 닥쳤을 때 저는 평점 2.9를 받고 졸업했습니다.

At my friend’s company, I felt my mechanical sympathy developing. In my sophomore year, I was watching “Jeopardy!” with a friend when he suggested that I make a playable version of the show. I thought about it for a few hours before deciding, with much disappointment, that it was beyond me. But when the idea came up again, in my junior year, I could see a way through it. I now had a better sense of what one could do with the machine. I spent the next fourteen hours building the game. Within weeks, playing “Jimbo Jeopardy!” had become a regular activity among my friends. The experience was profound. I could understand why people poured their lives into craft: there is nothing quite like watching someone enjoy a thing you’ve made.

In the midst of all this, I had gone full “Paper Chase” and begun ignoring my grades. I worked voraciously, just not on my coursework. One night, I took over a half-dozen machines in a basement computer lab to run a program in parallel. I laid printouts full of numbers across the floor, thinking through a pathfinding algorithm. The cost was that I experienced for real that recurring nightmare in which you show up for a final exam knowing nothing of the material. (Mine was in Real Analysis, in the math department.) In 2009, during the most severe financial crisis in decades, I graduated with a 2.9 G.P.A.

그런데도 저는 쉽게 첫 정규직 일자리를 얻었습니다.저는 프로그래머로 일한 경험이 있었고 아무도 제 학점을 묻지 않았습니다.젊은 코더에게 이 시기는 호황기였습니다.회사들은 최고의 프로그래머를 두고 입찰 전쟁을 벌이고 있었습니다.경력 프로그래머에 대한 구인 요청이 너무 공격적이어서 “채용 스팸”이라는 불평이 나올 정도였습니다.대학 컴퓨터 과학 프로그램의 인기는 폭발적으로 증가하기 시작했습니다.(저는 경제학을 전공했습니다.) 초보자를 1년 안에 고액 연봉 프로그래머로 만들어준다는 코딩 ‘부트 캠프’가 생겨났습니다.20대 초반에 처음 면접을 보러 갔을 때, 최고 경영자는 제가 얼마를 받을 자격이 있다고 생각하는지 물었습니다.저는 약간 당황스러웠지만 감히 숫자를 말했어요. 그는 그 자리에서 10%를 더 주겠다며 계약서를 작성했습니다.”소프트웨어 엔지니어”의 기술을 자랑했습니다.제가 근무하던 한 회사에서는 동료 중 한 명에게 Slack의 전신인 HipChat을 사용하여 질문을 했다가 곤란을 겪은 적이 있습니다.”절대로 엔지니어와 직접 HipChat하지 마세요.”라는 말을 들었습니다.그럴 수 없을 정도로 중요한 일이었죠.

And yet I got my first full-time job easily. I had work experience as a programmer; nobody asked about my grades. For the young coder, these were boom times. Companies were getting into bidding wars over top programmers. Solicitations for experienced programmers were so aggressive that they complained about “recruiter spam.” The popularity of university computer-science programs was starting to explode. (My degree was in economics.) Coding “boot camps” sprang up that could credibly claim to turn beginners into high-salaried programmers in less than a year. At one of my first job interviews, in my early twenties, the C.E.O. asked how much I thought I deserved to get paid. I dared to name a number that faintly embarrassed me. He drew up a contract on the spot, offering ten per cent more. The skills of a “software engineer” were vaunted. At one company where I worked, someone got in trouble for using HipChat, a predecessor to Slack, to ask one of my colleagues a question. “Never HipChat an engineer directly,” he was told. We were too important for that.

제로 금리에 가까운 금리와 기술 분야의 비약적인 성장의 시대였습니다.특정 규범이 확립되었습니다.Google과 같은 기업들은 코더에게 무료 에스프레소와 따뜻한 음식, 세계 최고 수준의 건강 관리 및 육아 휴직, 사내 체육관과 자전거실, 캐주얼 복장 규정, 일주일에 하루는 원하는 일에 전념할 수 있는 ‘20%의 시간’을 제공해야 한다고 업계에 가르쳤습니다.이들의 기술은 매우 중요하고 섬세한 것으로 간주되어 일종의 미신이 생겨날 정도였습니다.예를 들어, 프로그래머가 돌을 뒤집다가 엉킨 버그를 발견할 수도 있기 때문에 코딩 작업에 걸리는 시간을 예측하는 것은 어리석은 일로 여겨졌습니다.마감 기한은 혐오스러운 것이었습니다.납기에 대한 압박이 너무 심해지면 코더는 “번아웃”이라는 말만 하면 몇 달을 벌 수 있었습니다.

저는 처음부터 이 모든 것이 뭔가 잘못되었다는 느낌을 받았습니다.우리가 하는 일이 정말 그렇게 소중한 걸까?이 붐이 얼마나 오래 지속될 수 있을까요?10대에 웹 디자인을 조금 해본 적이 있었는데, 당시만 해도 웹 디자인은 수요가 많았고 높은 평가를 받았어요.주말만 투자하면 수천 달러를 벌 수 있었죠.하지만 피자집 주인과 프리랜서 아티스트가 클릭 한 번으로 자신만의 웹 사이트를 만들 수 있는 Squarespace와 같은 도구가 등장했습니다.전문 코더의 경우, 상대적으로 적은 노력으로 높은 보수를 받던 일감이 사라졌습니다.

This was an era of near-zero interest rates and extraordinary tech-sector growth. Certain norms were established. Companies like Google taught the industry that coders were to have free espresso and catered hot food, world-class health care and parental leave, on-site gyms and bike rooms, a casual dress code, and “twenty-per-cent time,” meaning that they could devote one day a week to working on whatever they pleased. Their skills were considered so crucial and delicate that a kind of superstition developed around the work. For instance, it was considered foolish to estimate how long a coding task might take, since at any moment the programmer might turn over a rock and discover a tangle of bugs. Deadlines were anathema. If the pressure to deliver ever got too intense, a coder needed only to speak the word “burnout” to buy a few months.

From the beginning, I had the sense that there was something wrongheaded in all this. Was what we did really so precious? How long could the boom last? In my teens, I had done a little Web design, and, at the time, that work had been in demand and highly esteemed. You could earn thousands of dollars for a project that took a weekend. But along came tools like Squarespace, which allowed pizzeria owners and freelance artists to make their own Web sites just by clicking around. For professional coders, a tranche of high-paying, relatively low-effort work disappeared.

이러한 개발에 대한 프로그래머 커뮤니티의 반응은 ‘그래, 계속 실력을 쌓아야지’였습니다.어렵고 모호한 것을 배워야 합니다.소프트웨어 엔지니어는 종족적으로 자동화를 좋아합니다.필연적으로 최고의 엔지니어들은 다른 종류의 작업을 쓸모없게 만드는 도구를 개발합니다.바로 이 본능 때문에 코드가 엄청난 영향력을 발휘할 수 있었습니다.하나의 소프트웨어가 수백만 명의 업무에 영향을 미칠 수 있기 때문입니다.당연히 이로 인해 프로그래머들은 때때로 일자리를 잃기도 했습니다. 우리는 이러한 발전을 맨발로 다가오는 파도처럼 생각해야 했습니다.우리가 계속 배우기만 하면 계속 살아남을 수 있다고 생각했습니다.쓰나미가 닥치기 전까지는 말이죠.

The response from the programmer community to these developments was just, Yeah, you have to keep levelling up your skills. Learn difficult, obscure things. Software engineers, as a species, love automation. Inevitably, the best of them build tools that make other kinds of work obsolete. This very instinct explained why we were so well taken care of: code had immense leverage. One piece of software could affect the work of millions of people. Naturally, this sometimes displaced programmers themselves. We were to think of these advances as a tide coming in, nipping at our bare feet. So long as we kept learning we would stay dry. Sound advice—until there’s a tsunami.

5.
처음 직장에서 프로그래밍 지원을 위해 인공지능 챗봇을 사용할 수 있게 되었을 때 저는 인공지능 챗봇을 피하려고 노력했습니다.동료들도 그럴 것이라고 예상했습니다.하지만 곧 저는 책상으로 걸어가면서 프로그래머들의 화면에서 인공지능 채팅 세션의 특징적인 색상, 즉 호출과 응답의 얼룩말 패턴을 보기 시작했습니다.공통적으로 이러한 도구를 사용하면 생산성이 향상되고, 어떤 경우에는 문제를 10배 더 빨리 해결할 수 있다는 말이었습니다.

저는 그런 것을 원하지 않았습니다.저는 프로그래밍하는 것을 좋아하고 유용하다고 느끼는 것을 좋아합니다.서식을 지정하고 코드를 검색하는 데 사용하는 텍스트 편집기처럼 저에게 익숙한 도구는 양쪽 모두에 도움이 됩니다.이러한 도구는 제가 프로그래밍을 더 잘할 수 있도록 도와주며, 작업을 더 빠르게 처리할 수 있게 해주지만, 여전히 저는 제가 그 공로를 인정받아야 한다고 생각합니다.하지만 인공지능은 다른 것 같았습니다.인공지능은 많은 도움을 주었습니다. 인공지능이 퍼즐을 푸는 즐거움과 퍼즐을 푼 사람이라는 만족감을 모두 빼앗아 갈까 봐 걱정했어요. 무한한 생산성을 발휘할 수 있지만, 그 대가로 제가 보여줄 수 있는 것은 제품 그 자체뿐이었죠.

When we were first allowed to use A.I. chatbots at work, for programming assistance, I studiously avoided them. I expected that my colleagues would, too. But soon I started seeing the telltale colors of an A.I. chat session—the zebra pattern of call-and-response—on programmers’ screens as I walked to my desk. A common refrain was that these tools made you more productive; in some cases, they helped you solve problems ten times faster.

I wasn’t sure I wanted that. I enjoy the act of programming and I like to feel useful. The tools I’m familiar with, like the text editor I use to format and to browse code, serve both ends. They enhance my practice of the craft—and, though they allow me to deliver work faster, I still feel that I deserve the credit. But A.I., as it was being described, seemed different. It provided a lot of help. I worried that it would rob me of both the joy of working on puzzles and the satisfaction of being the one who solved them. I could be infinitely productive, and all I’d have to show for it would be the products themselves.

대부분의 프로그래머의 실제 작업 결과물은 흥미진진한 경우가 드뭅니다. 사실, 거의 우스꽝스러울 정도로 지루한 경향이 있습니다.몇 달 전, 사무실에서 퇴근하고 집에 돌아와 아내에게 정말 재미있는 문제와 씨름하며 즐거운 하루를 보냈다고 이야기했습니다.저는 표를 생성하는 프로그램을 개발 중이었는데, 누군가 두 개 이상의 열에 걸쳐 있는 헤더를 추가하고 싶었는데, 우리가 작성한 사용자 지정 레이아웃 엔진은 이를 지원하지 않았습니다. 이 표는 중요한 문서에 사용되었고 중요한 사람들이 원했기 때문에 작업이 시급했습니다.그래서 저는 오후 내내 방에 틀어박혀서 작업했습니다.멋진 하위 문제가 많이 있었습니다:레이아웃 엔진 사용자가 열을 가로지르는 헤더를 원한다는 것을 어떻게 전달해야 할까요?코드는 어떤 모양이어야 할까요?그리고 무시하면 버그가 발생할 수 있는 까다로운 세부 사항도 있었습니다.예를 들어, 헤더가 포함해야 하는 열 중 하나에 데이터가 없어 삭제되면 어떻게 될까요? 저는 펜과 패드를 꺼내어 가능한 시나리오를 그려보고 로직을 확인하고 또 확인해야 했기 때문에 좋은 날이라는 것을 알았습니다.

The actual work product of most programmers is rarely exciting. In fact, it tends to be almost comically humdrum. A few months ago, I came home from the office and told my wife about what a great day I’d had wrestling a particularly fun problem. I was working on a program that generated a table, and someone had wanted to add a header that spanned more than one column—something that the custom layout engine we’d written didn’t support. The work was urgent: these tables were being used in important documents, wanted by important people. So I sequestered myself in a room for the better part of the afternoon. There were lots of lovely sub-problems: How should I allow users of the layout engine to convey that they want a column-spanning header? What should their code look like? And there were fiddly details that, if ignored, would cause bugs. For instance, what if one of the columns that the header was supposed to span got dropped because it didn’t have any data? I knew it was a good day because I had to pull out pen and pad—I was drawing out possible scenarios, checking and double-checking my logic.

하지만 그날 무슨 일이 일어났는지 한눈에 살펴볼 수 있을까요? 테이블의 헤더가 바뀌었습니다. 이보다 더 평범한 일은 상상하기 어렵습니다.저에게 즐거움은 전적으로 제품이 아니라 그 과정에 있었습니다.만약 이 과정이 3분간의 ChatGPT 세션에 불과했다면 그 과정은 어떻게 되었을까요?네, 프로그래머의 업무에는 말 그대로 코드를 작성하는 것 외에도 후배를 코칭하고 높은 수준의 시스템을 설계하는 등 많은 일이 포함됩니다.하지만 코딩은 항상 그 근간을 이루고 있습니다.저는 커리어 내내 작은 프로그래밍 퍼즐을 풀 수 있는 능력으로 면접을 보고 선발되었습니다.그런데 갑자기 이 능력이 덜 중요해졌어요.

벤이 GPT-4로 거둔 눈부신 성공에 대해 계속 이야기해주던 벤에게서 많은 것을 배웠기 때문입니다.그는 복잡한 작업을 잘할 뿐만 아니라 깊은 지식을 바탕으로 문제에 접근하는 방법을 제시하는 수석 엔지니어의 자질도 갖추고 있었습니다.한 프로젝트에서 Ben은 찰스 왕세자의 초상화 프레임에 작은 스피커와 빨간 발광다이오드 전구를 연결했는데, 이 전구는 왕관 속 보석을 상징하는 것으로, 함께 제공되는 웹 사이트에 메시지를 입력하면 스피커에서 곡이 재생되고 전구에서 모스 부호로 메시지가 깜박이는 아이디어였죠.

(이것은 괴짜 영국인을 위한 선물이었습니다.)

새로운 메시지를 가져오도록 장치를 프로그래밍하는 것은 벤이 사용하는 마이크로컨트롤러뿐만 아니라 메시지를 저장하는 백엔드 서버 기술인 Firebase에 대한 전문 지식이 필요해 보였습니다. 벤은 저에게 조언을 구했고 저는 몇 가지 가능성을 중얼거렸지만 사실 그가 원하는 것이 가능할지 확신할 수 없었습니다. 그러자 그는 GPT-4에 물어보았습니다.

GPT-4는 프로젝트를 훨씬 더 간단하게 만들 수 있는 기능이 Firebase에 있다고 벤에게 알려주

But taking a bird’s-eye view of what happened that day? A table got a new header. It’s hard to imagine anything more mundane. For me, the pleasure was entirely in the process, not the product. And what would become of the process if it required nothing more than a three-minute ChatGPT session? Yes, our jobs as programmers involve many things besides literally writing code, such as coaching junior hires and designing systems at a high level. But coding has always been the root of it. Throughout my career, I have been interviewed and selected precisely for my ability to solve fiddly little programming puzzles. Suddenly, this ability was less important.

I had gathered as much from Ben, who kept telling me about the spectacular successes he’d been having with GPT-4. It turned out that it was not only good at the fiddly stuff but also had the qualities of a senior engineer: from a deep well of knowledge, it could suggest ways of approaching a problem. For one project, Ben had wired a small speaker and a red L.E.D. light bulb into the frame of a portrait of King Charles, the light standing in for the gem in his crown; the idea was that when you entered a message on an accompanying Web site the speaker would play a tune and the light would flash out the message in Morse code. (This was a gift for an eccentric British expat.)

Programming the device to fetch new messages eluded Ben; it seemed to require specialized knowledge not just of the microcontroller he was using but of Firebase, the back-end server technology that stored the messages. Ben asked me for advice, and I mumbled a few possibilities; in truth, I wasn’t sure that what he wanted would be possible. Then he asked GPT-4. It told Ben that Firebase had a capability that would make the project much simpler. Here it was—and here was some code to use that would be compatible with the microcontroller.

GPT-4를 직접 사용하기가 두려웠고 OpenAI에 한 달에 20달러를 지불해야 한다는 사실에 다소 불안한 마음이 들었지만, 그럼에도 불구하고 벤을 통해 그 기능을 시험해보기 시작했습니다. 십자말풀이 프로젝트를 진행하기 위해 앉아서 저는 “이렇게 입력해 보는 건 어떨까요?”라고 말했죠. 그러면 벤이 키보드를 건네주곤 했죠.

저는 “아니, 네가 운전해”라고 말하곤 했죠.우리는 함께 인공지능이 무엇을 할 수 있는지에 대한 감각을 키웠습니다. 저보다 인공지능에 대한 경험이 많은 벤은 단숨에 더 많은 것을 얻을 수 있을 것 같았습니다. 나중에 그가 말했듯이, 자신의 신경망이 GPT-4의 신경망과 일치하기 시작했습니다. 저는 그가 기계적 동조를 달성했다고 말했을 것입니다. 한 번은 제가 특히 놀라웠던 것은 인공지능이 구형 노키아 휴대폰에 있는 스네이크 게임을 만들게 한 것이었습니다. 하지만 그는 GPT-4와 잠시 대화를 나눈 후, 게임을 수정하여 사용자가 패배할 때 가장 효율적인 경로에서 얼마나 멀리 벗어났는지 표시하도록 했습니다. 봇이 이를 달성하는 데는 약 10초가 걸렸습니다. 솔직히 제가 직접 할 수 있을지 확신이 서지 않는 작업이었습니다.

수십 년 동안 인공지능이 지배해 온 체스에서 플레이어의 유일한 희망은 봇과 짝을 이루는 것입니다. 반은 인간, 반은 인공지능으로 구성된 팀인 ‘센타우로스’는 여전히 최고의 인간과 최고의 인공지능 엔진을 혼자서 이길 수 있을지도 모릅니다. 프로그래밍은 아직 체스처럼 발전하지 못했습니다. 하지만 켄타우로스가 등장했습니다. 현재로서는 GPT-4가 저보다 못한 프로그래머입니다. 벤은 훨씬 더 나쁩니다. 하지만 벤과 GPT-4는 위험한 존재입니다.

Afraid to use GPT-4 myself—and feeling somewhat unclean about the prospect of paying OpenAI twenty dollars a month for it—I nonetheless started probing its capabilities, via Ben. We’d sit down to work on our crossword project, and I’d say, “Why don’t you try prompting it this way?” He’d offer me the keyboard. “No, you drive,” I’d say. Together, we developed a sense of what the A.I. could do. Ben, who had more experience with it than I did, seemed able to get more out of it in a stroke. As he later put it, his own neural network had begun to align with GPT-4’s. I would have said that he had achieved mechanical sympathy. Once, in a feat I found particularly astonishing, he had the A.I. build him a Snake game, like the one on old Nokia phones. But then, after a brief exchange with GPT-4, he got it to modify the game so that when you lost it would show you how far you strayed from the most efficient route. It took the bot about ten seconds to achieve this. It was a task that, frankly, I was not sure I could do myself.

In chess, which for decades now has been dominated by A.I., a player’s only hope is pairing up with a bot. Such half-human, half-A.I. teams, known as centaurs, might still be able to beat the best humans and the best A.I. engines working alone. Programming has not yet gone the way of chess. But the centaurs have arrived. GPT-4 on its own is, for the moment, a worse programmer than I am. Ben is much worse. But Ben plus GPT-4 is a dangerous thing.

6.
얼마 지나지 않아 저는 포기했습니다.직장에서 작은 검색 도구를 만들고 있었는데 사용자 검색어 중 결과와 일치하는 부분을 강조 표시하고 싶었습니다.하지만 검색어를 단어 단위로 나누다 보니 일이 훨씬 더 복잡해졌습니다.인내심이 부족하다는 것을 깨달았습니다.GPT-4에 대해 생각하기 시작했습니다.오후에 프로그래밍을 하는 대신 인공지능과 ‘프롬프트’를 하거나 대화를 나누는 데 시간을 할애할 수 있을 것 같았죠.

1978년 컴퓨터 과학자 에드거 W. 디크스트라는 “‘자연어 프로그래밍’의 어리석음”이라는 제목의 에세이에서 C++나 파이썬 같은 전문 언어가 아닌 모국어로 컴퓨터를 지시한다면 컴퓨터를 유용하게 만든 바로 그 정밀성을 거부하게 될 것이라고 주장했습니다.그는 공식 프로그래밍 언어가 “모국어를 사용할 때는 거의 피할 수 없는 모든 종류의 말도 안 되는 것들을 배제하는 데 놀랍도록 효과적인 도구”라고 썼습니다.디크스트라의 주장은 프로그래밍계에서 진리가 되었습니다.2014년 이 에세이가 Reddit에 올라왔을 때 한 최고 댓글 작성자는 “다음 중 어떤 것이 가장 무서운지 모르겠습니다.이 아이디어가 얼마나 사소하고 명백한지”와 “많은 사람들이 여전히 이 아이디어를 모른다는 사실”입니다.

It wasn’t long before I caved. I was making a little search tool at work and wanted to highlight the parts of the user’s query that matched the results. But I was splitting up the query by words in a way that made things much more complicated. I found myself short on patience. I started thinking about GPT-4. Perhaps instead of spending an afternoon programming I could spend some time “prompting,” or having a conversation with an A.I.

In a 1978 essay titled “On the Foolishness of ‘Natural Language Programming,’ ” the computer scientist Edsger W. Dijkstra argued that if you were to instruct computers not in a specialized language like C++ or Python but in your native tongue you’d be rejecting the very precision that made computers useful. Formal programming languages, he wrote, are “an amazingly effective tool for ruling out all sorts of nonsense that, when we use our native tongues, are almost impossible to avoid.” Dijkstra’s argument became a truism in programming circles. When the essay made the rounds on Reddit in 2014, a top commenter wrote, “I’m not sure which of the following is scariest. Just how trivially obvious this idea is” or the fact that “many still do not know it.”

처음 GPT-4를 사용했을 때, 저는 Dijkstra가 무슨 말을 하는지 알 수 있었습니다.

인공지능에게 “내 문제를 해결해줘”라고 말할 수는 없습니다.언젠가 그런 날이 올지도 모르지만 지금은 연주법을 배워야 하는 악기와 비슷합니다.초보자와 대화하듯 원하는 것을 신중하게 지정해야 합니다.검색 강조 표시 문제에서 저는 GPT-4에 한 번에 너무 많은 작업을 요청하고 실패하는 것을 지켜본 다음 다시 시작하는 것을 발견했습니다.그럴 때마다 제 프롬프트는 덜 야심적이었습니다. 대화가 끝날 무렵에는 검색이나 하이라이트에 관한 문제가 아니라 제가 원하는 것을 얻을 수 있는 구체적이고 추상적이며 모호하지 않은 하위 문제로 문제를 세분화했습니다.

인공지능의 수준을 발견한 순간, 제 업무 방식이 완전히 달라졌다는 것을 바로 느꼈습니다.어디를 봐도 GPT-4 크기의 구멍이 보였고, 사무실의 화면이 항상 채팅 세션으로 가득 찬 이유와 벤의 생산성이 어떻게 그렇게 높아졌는지 마침내 이해하게 되었습니다.저도 더 자주 시도해보고 싶다는 생각이 들었습니다.

When I first used GPT-4, I could see what Dijkstra was talking about. You can’t just say to the A.I., “Solve my problem.” That day may come, but for now it is more like an instrument you must learn to play. You have to specify what you want carefully, as though talking to a beginner. In the search-highlighting problem, I found myself asking GPT-4 to do too much at once, watching it fail, and then starting over. Each time, my prompts became less ambitious. By the end of the conversation, I wasn’t talking about search or highlighting; I had broken the problem into specific, abstract, unambiguous sub-problems that, together, would give me what I wanted.

Having found the A.I.’s level, I felt almost instantly that my working life had been transformed. Everywhere I looked I could see GPT-4-size holes; I understood, finally, why the screens around the office were always filled with chat sessions—and how Ben had become so productive. I opened myself up to trying it more often.

십자말풀이 프로젝트로 돌아왔습니다.
퍼즐 생성기는 “s””c””a””r””*””k””u””n””i””s””*””a””r””e””a”와 같은 줄이 있는 보기 흉한 텍스트 형식으로 출력을 인쇄했습니다.저는 이러한 출력을 그리드에서 단어를 탐색하고 채점 정보를 한눈에 볼 수 있는 멋진 웹 페이지로 바꾸고 싶었습니다.하지만 이 작업이 까다로울 것이라는 것을 알고 있었습니다. 각 글자에 해당 글자가 속한 단어(위쪽과 아래쪽 모두)를 태그해야 했기 때문이죠.이것은 세부적인 문제였고 저녁 시간을 쉽게 소모할 수 있는 문제였습니다.아기가 곧 태어날 예정이었기 때문에 저녁 시간이 부족했습니다.그래서 저는 GPT-4와 대화를 시작했습니다. 어느 정도 주고받는 과정이 필요했고, 어떤 때는 제가 직접 몇 줄의 코드를 읽어야만 무슨 일을 하는지 이해할 수 있었습니다.하지만 코딩의 필수 요소라고 믿었던 사고는 거의 하지 않았습니다.숫자나 패턴, 루프에 대해 생각하지도 않았고 컴퓨터의 활동을 시뮬레이션하기 위해 머리를 사용하지도 않았습니다. 또 다른 코더인 제프리 리트는 비슷한 경험을 한 후 “저는 세부적인 프로그래머의 두뇌를 사용한 적이 없습니다.”라고 썼습니다. 그래서 제가 뭘 했나요?

I returned to the crossword project. Our puzzle generator printed its output in an ugly text format, with lines like “s””c””a””r””*””k””u””n””i””s””*” “a””r””e””a”. I wanted to turn output like that into a pretty Web page that allowed me to explore the words in the grid, showing scoring information at a glance. But I knew the task would be tricky: each letter had to be tagged with the words it belonged to, both the across and the down. This was a detailed problem, one that could easily consume the better part of an evening. With the baby on the way, I was short on free evenings. So I began a conversation with GPT-4. Some back-and-forth was required; at one point, I had to read a few lines of code myself to understand what it was doing. But I did little of the kind of thinking I once believed to be constitutive of coding. I didn’t think about numbers, patterns, or loops; I didn’t use my mind to simulate the activity of the computer. As another coder, Geoffrey Litt, wrote after a similar experience, “I never engaged my detailed programmer brain.” So what did I do?

7.
이세돌 9단이 바둑에서 은퇴하게 된 계기는 바둑이 영원히 값싸졌다는 느낌 때문이었을 것입니다.
제가 프로그래밍에 입문했을 때 컴퓨터는 일종의 마법처럼 느껴졌기 때문입니다. 기계는 인간에게 힘을 주지만, 그 기계의 신비한 비밀, 즉 주문 언어를 배워야 했죠.그러려면 특별한 마음가짐이 필요했습니다.저는 선택받았다고 느꼈습니다.저는 지루하고 신중하게 생각하고 모호한 지식을 쌓는 데 전념했습니다.그러던 어느 날, 생각 없이도 지식 없이도 같은 목적을 달성할 수 있다는 것을 알게 되었습니다.어떻게 보면 직장 생활의 상당 부분이 시간 낭비처럼 보일 수도 있습니다.

하지만 저는 세돌을 생각할 때마다 체스를 떠올립니다.약 30년 전, 기계가 체스를 정복한 후 더 이상 체스를 둘 이유가 없어질 것이라는 우려가 있었습니다.하지만 인공지능이 체스에 활기를 불어넣으면서 체스의 인기는 그 어느 때보다 높아졌습니다. 제 친구 한 명이 최근에 체스를 시작했습니다. 그는 언제든 인공지능 코치에게 자신의 능력에 맞는 체스 문제를 풀 수 있고, 게임에서 패한 후에는 어디가 잘못되었는지 정확히 알려줄 수 있습니다. 한편, 최고 수준의 그랜드 마스터는 컴퓨터가 제안하는 수를 마치 신의 석판을 읽는 것처럼 연구합니다. 체스를 배우는 것은 그 어느 때보다 쉬워졌고, 체스의 깊은 비밀을 연구하는 것은 그 어느 때보다 흥미진진해졌습니다.
Perhaps what pushed Lee Sedol to retire from the game of Go was the sense that the game had been forever cheapened. When I got into programming, it was because computers felt like a form of magic. The machine gave you powers but required you to study its arcane secrets—to learn a spell language. This took a particular cast of mind. I felt selected. I devoted myself to tedium, to careful thinking, and to the accumulation of obscure knowledge. Then, one day, it became possible to achieve many of the same ends without the thinking and without the knowledge. Looked at in a certain light, this can make quite a lot of one’s working life seem like a waste of time.

But whenever I think about Sedol I think about chess. After machines conquered that game, some thirty years ago, the fear was that there would be no reason to play it anymore. Yet chess has never been more popular—A.I. has enlivened the game. A friend of mine picked it up recently. At all hours, he has access to an A.I. coach that can feed him chess problems just at the edge of his ability and can tell him, after he’s lost a game, exactly where he went wrong. Meanwhile, at the highest levels, grandmasters study moves the computer proposes as if reading tablets from the gods. Learning chess has never been easier; studying its deepest secrets has never been more exciting.

컴퓨팅은 아직 극복되지 않았습니다.GPT-4는 인상적이지만 일반인이 프로그래머처럼 다룰 수는 없습니다.저는 여전히 제 직업에 안정감을 느낍니다.사실 전보다 조금 더 안전하다고 느낍니다.소프트웨어 제작이 쉬워지면서 소프트웨어는 점점 더 확산될 것이고, 프로그래머는 소프트웨어의 설계, 구성, 유지보수를 맡게 될 것입니다.저는 항상 프로그래밍에서 가장 안정적이고 가장 필수적인 부분을 찾았지만 특별히 잘하지는 못했습니다.저는 빅 테크 회사에서 볼 수 있는 전형적인 코딩 면접 테스트에서 많이 떨어졌어요.제가 비교적 잘하는 것은 무엇을 만들 가치가 있는지, 사용자가 무엇을 좋아하는지, 기술적으로나 인간적으로 소통하는 방법을 아는 것입니다. 제 친구는 이 인공지능의 순간을 “그저 그런 프로그래머의 복수”라고 불렀습니다.코딩 자체의 중요성이 줄어들면서 더 부드러운 기술이 빛을 발할 수도 있습니다.

하지만 아직 태어나지 않은 제 아이에게 무엇을 가르쳐야 할지는 여전히 남아 있습니다.제 아이가 성인이 되면 지금 우리가 ‘컴퓨터’를 떠올릴 때처럼 ‘프로그래머’를 손으로 계산을 하는 사람을 가리키는 말로 생각하게 될 것 같습니다.C++ 또는 Python을 직접 입력하여 프로그래밍하는 것은 결국 펀치 카드에 바이너리로 명령을 내리는 것만큼 우스꽝스럽게 보일 수 있습니다.디크스트라는 기겁을 하겠지만, 컴퓨터가 원하는 것을 정확하게 수행하도록 하는 것은 정중하게 요청하는 일이 될 수도 있습니다.

Computing is not yet overcome. GPT-4 is impressive, but a layperson can’t wield it the way a programmer can. I still feel secure in my profession. In fact, I feel somewhat more secure than before. As software gets easier to make, it’ll proliferate; programmers will be tasked with its design, its configuration, and its maintenance. And though I’ve always found the fiddly parts of programming the most calming, and the most essential, I’m not especially good at them. I’ve failed many classic coding interview tests of the kind you find at Big Tech companies. The thing I’m relatively good at is knowing what’s worth building, what users like, how to communicate both technically and humanely. A friend of mine has called this A.I. moment “the revenge of the so-so programmer.” As coding per se begins to matter less, maybe softer skills will shine.

That still leaves open the matter of what to teach my unborn child. I suspect that, as my child comes of age, we will think of “the programmer” the way we now look back on “the computer,” when that phrase referred to a person who did calculations by hand. Programming by typing C++ or Python yourself might eventually seem as ridiculous as issuing instructions in binary onto a punch card. Dijkstra would be appalled, but getting computers to do precisely what you want might become a matter of asking politely.

그래서 어쩌면 우리가 가르쳐야 할 것은 기술이 아니라 정신일지도 모릅니다.저는 가끔 제가 다른 시대에 태어났다면 무엇을 하고 있었을지 생각해 봅니다.농경 시대의 코더들은 물레방아와 농작물 품종에 몰두했을 것이고, 뉴턴 시대에는 유리와 염료, 시간 측정에 집착했을지도 모릅니다.최근에 신경망의 구술 역사를 읽다가 인터뷰에 응한 사람들 중 1930년대 전후에 태어난 사람들이 어렸을 때 라디오를 가지고 놀았다는 사실이 놀라웠습니다.어쩌면 다음 세대는 부모 세대가 블랙박스로 여겼던 인공지능의 내장을 들여다보며 늦은 밤을 보낼지도 모릅니다.코딩의 시대가 저물고 있다고 걱정할 필요는 없습니다.해킹은 영원하니까요.♦

So maybe the thing to teach isn’t a skill but a spirit. I sometimes think of what I might have been doing had I been born in a different time. The coders of the agrarian days probably futzed with waterwheels and crop varietals; in the Newtonian era, they might have been obsessed with glass, and dyes, and timekeeping. I was reading an oral history of neural networks recently, and it struck me how many of the people interviewed—people born in and around the nineteen-thirties—had played with radios when they were little. Maybe the next cohort will spend their late nights in the guts of the A.I.s their parents once regarded as black boxes. I shouldn’t worry that the era of coding is winding down. Hacking is forever.