31 августа 1892 года Павел Михайлович написал заявление в Московскую городскую думу о передаче в дар городу своего собрания, а также собрания Сергея Михайловича (вместе с домом).
Летом 1892 года неожиданно умер младший из братьев Третьяковых Сергей Михайлович. Он оставил завещание, в котором просил присоединить свои картины к художественному собранию старшего брата; в завещании были и такие строки: «Так как брат мой Павел Михайлович Третьяков выразил мне свое намерение пожертвовать городу Москве художественную коллекцию и в виду сего предоставить в собственность Московской городской думе свою часть дома… где помещается его художественная коллекция… то я часть этого дома, мне принадлежащую, предоставляю в собственность Московской городской думе, но с тем, чтобы Дума приняла те условия, на которые брат мой будет предоставлять ей свое пожертвование…» Завещание не могло быть выполнено, пока галерея принадлежала П.М.Третьякову.
31 августа 1892 года Павел Михайлович написал заявление в Московскую городскую думу о передаче в дар городу своего собрания, а также собрания Сергея Михайловича (вместе с домом). В сентябре Дума на своем заседании официально приняла дар, постановила благодарить Павла Михайловича и Николая Сергеевича (сына Сергея Михайловича) за дар, а также решила ходатайствовать о присвоении подаренной коллекции наименования «Городская художественная галерея Павла и Сергея Михайловичей Третьяковых». П.М.Третьяков был утвержден попечителем Галереи. Не желая участвовать в торжествах и выслушивать благодарности, Павел Михайлович отправился за границу. Вскоре действительно посыпались благодарственные адреса, письма, телеграммы. Русское общество не осталось равнодушным к благородному поступку Третьякова. В январе 1893 года Московская городская дума постановила ежегодно выделять 5 000 рублей на приобретение художественных произведений для Галереи, дополнительно к завещанным Сергеем Михайловичем Третьяковым суммам. В августе 1893 Галерея была официально открыта для посещения (Павел Михайлович был вынужден закрыть ее в 1891 году из-за происходивших краж произведений).
В декабре 1896 года П.М.Третьяков стал почетным гражданином города Москвы, как говорилось в приговоре Московской городской думы «…За великую заслугу пред Москвою, которую он сделал средоточием художественного просвещения России, принесши в дар древней столице свое драгоценное собрание произведений русского искусства».
После передачи коллекции городу Павел Михайлович не перестал заботиться о своей Галерее, оставаясь ее попечителем до конца жизни. Картины покупались не только на деньги города, но и на средства Третьякова, который дарил их Галерее. В 1890-е годы собрание пополнилось произведениями Н.Н.Ге, И.Е.Репина, А.К.Саврасова, В.А.Серова, Н.А.Касаткина, М.В.Нестерова и других мастеров. Начиная с 1893 года П.М.Третьяков ежегодно издавал каталоги собрания, постоянно дополняя и уточняя их. Для этого он переписывался с художниками, их родственниками, коллекционерами, добывая по крупицам ценные сведения, иногда предлагая поменять название картины. Так Н.Н.Рерих соглашался с Павлом Михайловичем при составлении каталога 1898 года: «…Для языка, действительно, лучше название краткое, хотя бы такое «Славянский городок. Гонец». Это был последний подготовленный Третьяковым каталог, самый полный и точный. В 1897–1898 годах было вновь расширено здание Галереи, на этот раз за счет внутреннего садика, в котором любил гулять Павел Михайлович, жертвовавший всем ради любимого детища. Устройство коллекции Сергея Михайловича, новая перевеска картин отнимали у Третьякова много сил. Времени и энергии требовали и торгово-промышленные дела, и участие во многих обществах, и благотворительность. Павел Михайлович принимал активное участие в деятельности Московского общества любителей художеств, Московского художественного общества, Московского училища живописи, ваяния и зодчества. Много делал он для Арнольдовского училища глухонемых, помогая не только материально, но и входя во все тонкости учебного процесса, строительства и ремонта зданий. По просьбе И.В.Цветаева Третьяков внес свой вклад и в создание Музея изящных искусств (ныне Государственный музей изобразительных искусств имени А.С.Пушкина).
Всех пожертвований П.М.Третьякова не перечислить, достаточно упомянуть о помощи экспедиции Н.Н.Миклухи-Маклая , о многочисленных стипендиях, о пожертвованиях на нужды бедных. В последние годы Павел Михайлович часто недомогал. Очень переживал он и болезнь жены, которую разбил паралич. В ноябре 1898 года Третьяков отправился по делам в Петербург, вернувшись в Москву, почувствовал себя плохо.
4 декабря Павел Михайлович Третьяков скончался.