Джулиана Маргулис е родена на 8 юни 1966 в Спринг Вали, Ню Йорк, САЩ, като най-малката от трите дъщери в семейството на Франческа и Пол Маргулис. Майка ѝ е учителка по балет и балерина, а баща ѝ е копирайтър и философ. Тя е от еврейския род Ашкенази, с корени от Европа, а семейството ѝ е с румънски, унгарски и австрийски корени.
До 14-годишна възраст Джулиана живее заедно с родителите си в Англия и Франция. Завършва училище в Ню Хемпшир, а после получава бакалавърска степен от Sarah Lawrence College, където участва в няколко пиеси. Докато е студентка работи като сервитьорка, за да се издържа. Дебютната ѝ роля в киното е във филма „Out for Justice“ (1991), с участието на Стивън Сегал, в който играе ролята на проститутка. Три години по-късно тя е избрана за ролята на медицинската сестра Каръл Хатауей в пилотния епизод на „ER“ (1994).
Съгласно сценария е предвидено нейната героиня да се самоубие заради неуспешна връзка с главния лекар д-р Рос, в чиято роля се превъплъщава Джордж Клуни, но продуцентите забелязват талантливата млада актриса и променят сценария радикално, заради образа на медицинската сестра Хатауей. Тази роля изстрелва Маргулис към върховете на славата. Тя печели шест последователни номинации за награда Еми, както и наградата на Гилдията на телевизионните актьори и наградата за Най-добър актьорски състав в драма сериал.
Актрисата напуска сериалът, който я изстрелва към върховете на славата през 2000-та год. През този период тя се съсредоточава върху представленията си в театъра. През 2001-ва играе лейди Моргана в телевизионния мини-сериал „The Mists of Avalon“ и е номинирана за Златен глобус. През 2002 се снима в хорър филма „Ghost Ship“, а през 2006 в трилъра „Snakes on a Plane“ с участието на Самюел Л. Джаксън. През 2009 Маргулис се завръща на малкия екран с главната роля в новия съдебен сериал „The Good Wife“, който разказва за живота на успешната адвокатка Алисия Флорик.
Сериалът се излъчва по CBS и за първия сезон първоначално са поръчани само 13 епизода, но след като е приет изключително добра от публиката е удължен с 23 епизода. За ролята си на адвокат Флорик тя печели Златен глобус и награда на Гилдията на телевизионните актьори. Тя е носител и на редица други престижни награди.