Sekolah Menengah Teknik Johor Bahru telah ditubuhkan pada 16 Januari 1974 tetapi memulakan pengajian selama 3 bulan di Sekolah Menengah Tasek Utara Johor Bahru di bawah pimpinan Encik Omar bin Abdul Rashid selaku pengetua pertama di sekolah ini. Sekolah ini telah dirasmikan pada 26 Jun 1976 oleh YAB Dr. Mahathir Mohamad selaku Timbalan Perdana Menteri pada ketika itu. Sekolah ini telah dapat disempurnakan pembinaannya pada 8 Julai 1984 dan telah dirasmikan oleh YB Dato Abdullah bin Ahmad Badawi, Menteri Pelajaran Malaysia ketika itu. Sekolah ini memperkenalkan mata pelajaran berorientasikan teknikal melalui kursus-kursus yang ditawarkan iaitu kejuruteraan awam, elektrik, jentera serta pertanian dan pada tahun 1985, kursus perdagangan telah diperkenalkan.

Sekolah ini terletak bersebelahan dengan Jabatan Pendidikan Negeri Johor di Jalan Tun Razak dan berhampiran dengan Sekolah Menengah Vokasional Perdagangan. Mempunyai empat blok kelas termasuk perpustakaan dan bilik guru serta makmal kimia dan fizik, tiga bengkel kejuruteraan setiap satu untuk kejuruteraan elektrik, jentera dan awam serta satu kawasan untuk pelajar pertanian. Sekolah ini juga mempunyai sebuah koperasi yang menyediakan hampir keseluruhan keperluan untuk pelajar, jadi para pelajar tidak perlu bersusah payah untuk keluar ke bandar untuk mencari keperluan harian.

Sekolah ini juga terlibat secara aktif di dalam bidang sukan di peringkat daerah terutamanya di mana kebanyakan pemain yang mewakili peringkat daerah Johor Bahru adalah pelajar sekolah ini, contohnya di dalam sukan ragbi, hampir keseluruhan pemain ragbi daerah JB adalah pelajar Teknik JB begitu juga dengan sukan bolasepak dan sepak takraw di mana terdapat pemain yang mewakili negeri Johor di dalam sukan di peringkat negeri. Semua ini berlaku semasa tahun 1995 dan sebelumnya, selepas tahun itu saya tidak tahu mengenai perkembangan sukan di Teknik JB, saya harap kecemerlangan ini diteruskan oleh generasi baru yang menggantikan kami.

Untuk memasuki sekolah ini, tidaklah semudah yang disangkakan kerana hanya pelajar yang cemerlang di dalam bidang akademik dan ko-kurikulum semasa di tingkatan 1 hingga 3 akan di nilai, sebab itulah sekolah Teknik ini merupakan antara sekolah Teknik terbaik di Malaysia. Sekolah ini di barisi oleh para guru yang berpengalaman dan berdedikasi untuk memastikan semua pelajarnya berjaya di dalam bidang pelajaran terutamanya disamping menyediakan pelajar dengan ilmu yang secukupnya untuk menghadapi dunia selepas alam persekolahan.