В августе 1941 г. КБ В. М. Петлякова было предписано изготовить истребительный вариант Пе-2. Первый опытный истребитель Пе-3 поднялся в воздух 07 августа 1941, он был переделан из уже построенного серийного бомбардировщика Пе-2 16-й серии. С момента выдачи заказа на самолёт до передачи машины на испытания прошло всего семь суток!

Конструктивно истребитель Пе-3 отличался от Пе-2 компоновкой носовой и средней частей фюзеляжа и вооружением. В фюзеляже самолёта были размещены дополнительные топливные баки, один из них был установлен в бомбоотсеке, два других на месте кабины стрелка. Самолёт стал двухместным.

На истребителе было усилено наступательное вооружение. Носовая стрелковая установка опытного Пе-3 состояла из двух 12,7-мм пулемётов БК с боекомплектом 150 патронов на ствол и одного 7,62-мм пулемёта ШКАС с боекомплектом 450 патронов. Верхняя установка штурмана ТСС-1 с 7,62 мм пулемётом ШКАС и боекомплектом 750 патронов была взята без изменений от Пе-2. Поскольку вести огонь назад-вниз теперь было некому, использовалась отработанная ещё для высотного истребителя «100» хвостовая неподвижная установка 7,62-мм пулемёта ШКАС с боекомплектом 250 патронов.

Бомбардировочное вооружение было радикально упрощено. От Пе-2 остались лишь четыре бомбодержателя: два в бомболюках мотогондол и два наружных под фюзеляжем. Общая масса бомбовой нагрузки уменьшилась, нормальная нагрузка составила 400 кг, а перегрузочная - 700 кг (две бомбы по 250 кг и две по 100 кг). Тормозные решётки под консолями вместе с приводами были демонтированы, в результате чего исчезла возможность производить бомбометание в пикировании.

На серийных Пе-3 носовой пулемёт ШКАС был снят, но зато до 250 патронов на ствол был увеличен боекомплект у пулемётов БК.

В процессе «отстрела» носовой установки выяснилось, что плексигласовый носок фюзеляжа не выдерживает давления дульных газов и разрушается. Он был заменён сначала дюралевым, а позже стальным. Было сокращено бортовое остекление, удалены большие смотровые блистеры и верхний остекленный люк кабины стрелка.

Тяжелые истребители отправлялись с завода в строевые части в комплектации, соответствующей головному серийному Пе-3. Всего в 1941 г. было построено 196 Пе-3. Ещё 11 самолётов собрали из имевшегося задела в апреле 1942 г.