Лев Семенович Рубинштейн родился в Москве в еврейской семье, детство провел в коммуналке на Новом Арбате, затем в подмосковных Мытищах. Рассказывал: «Сначала была дача. Ее мой отец как-то купил в долг, а потом мы туда переехали, потому что в коммуналке, где я провел раннее детство, находиться было невозможно из-за перенаселенности. Семейство моего отца тоже женилось, рожало, в общем, было что-то невообразимое».
Его отец был военным инженером, участвовал в строительстве железной дороги, которую ГУЛАГ строил вдоль берега Северного Ледовитого океана. Недолгое время семья жила на Крайнем Севере. После школы поступил на филологический факультет Московского заочного педагогического института (ныне МГГУ им. М. А. Шолохова), по окончании вуза продолжительное время работал библиографом в институтской библиотеке.
С конца 1960-х годов, еще во время студенчества, начал заниматься литературой. По собственному признанию, находился отчасти под влиянием американского поп-арта, отчасти — творчества авангардиста Джона Кейджа. Для себя выбрал путь «эстетического сопротивления» советской идеологии. Через старшего брата примкнул к сообществу художников и поэтов, сформировавших идеи московского концептуализма.
В 1974 году разработал собственную стилистику литературных произведений, состоящих из множества маленьких частей, записанных на библиотечные карточки — картотеку.
Был участником многих поэтических и музыкальных фестивалей, перформансов и художественных выставок. Впервые начал публиковаться на Западе в конце 1970-х годов. С конца 1980-х его книги стали издавать и в России. Рассказывал: «В виде картотеки книги выходили, но в других странах: во Франции, в Германии. Их раскупили университеты: кто-то знал меня, кто-то решил, что так хорошо изучать русский язык. Тут фраза по-немецки, тут — по-русски, — разговорник».
В начале 1990-х годов стал обозревателем еженедельника «Итоги» и «Еженедельного журнала». «Не знал, что писать, о ком писать, — пояснял Рубинштейн. — Ругать не любил, хвалить не за что. Очень мучился некоторое время. И от отчаяния нащупал такой жанрик, который всей редакции понравился, даже рубрику придумал: «Разговоры запросто». Жанр этот в себе объединил воспоминательную часть, какие-то истории, общие рассуждения». В 2005—2015 годах писал для сайтов Грани.ру и Стенгазеты.нет. До марта 2014 года активно вел блог на LiveJournal, до мая 2015-го — блог на «Эхе Москвы».
