Niewidoczny kręgosłup bankowości: głębokie zanurzenie się w dopasowywaniu i pojednaniu

Niewidoczny kręgosłup bankowości: głębokie zanurzenie się w dopasowywaniu i pojednaniu

Znacznik czasu: 1 grudnia 2023 5:34
Węzeł źródłowy: 2988681

Last year I celebrated two decades of immersion in IT, specifically within the Financial Services sector. During this period I have been a witness to remarkable transformations in banking and technology. The emergence of Fintech companies and their customer-centric
approach, along with significant advancements in software engineering like Agile methodologies, microservices, and cloud computing, have reshaped the landscape. Yet, intriguingly, the back-office operations of many financial service companies have remained
relatively static over these years, still grappling with ręczne kodowanie, powtarzalne zadania i duże poleganie na programie Excel.

Szczególnie ręcznym, a jednocześnie możliwym do zautomatyzowania procesem w sektorze usług finansowych jest dopasowanie i pojednanie. This process arises in various forms, i.e. from identifying and addressing discrepancies (typically occurring due to issues
or gaps with the integrations) in master-slave integrations to correcting or removing duplicates and semi-automated updates of operational systems with data from external sources.

Pomimo dostępności wyrafinowane oprogramowanie (e.g. FIS IntelliMatch, Calypso Confirmation Matching, Misys CMS, Temenos T24 Confirmation Matching…​) for specific reconciliation tasks, such as payment and trade confirmation matching
(often based on SWIFT messages), the większość zadań dopasowujących często opiera się na rozwiązaniach niestandardowych lub ręcznych, including Excel or even paper-based methods. Very often automation is also not pertinent, as matching is often involved in one-time actions
like marketing campaigns, data clean-ups, alignment with partners…​

Zrozumienie lepszego pojednania wymaga rozcinając jego elementy, tj

  • Zaczyna się gromadzenie i przekształcanie odmiennych zbiorów danych w celu zapewnienia porównywalności. This consists of recuperating 2 data sets, which can be delivered in different formats, different structures, different scopes and with different names
    or enumerations. The data needs to be transformed to make them comparable and loaded into the same tool (e.g. a database or Excel), so that they can be easily compared.

  • Następnym krokiem jest zdefiniowanie a precyzyjny algorytm dopasowywania. This can be a simple unique key, but it can also a combination of multiple attributes (composite key), a hierarchical rule (i.e. match first on key 1, if no match try on key 2…​) or
    a fuzzy rule (if key of data set 1 resembles key of data set 2 it is a match). Defining this matching algorithm can be very complex, but it is crucial in the ability to automate the matching and reach a good output quality.

  • Po zdefiniowaniu algorytmu dopasowywania wprowadzamy faza porównawcza. For small data sets, this can be done quite simple, but for very large data sets, it can necessitate all kinds of performance optimizations (like indices, segmentation,
    parallelism…​) in order to execute the comparison in a reasonable time.

  • Wreszcie, zidentyfikowane rozbieżności należy przełożyć na możliwe do zastosowania wyniki, takie jak raporty, komunikacja ze współpracownikami lub osobami trzecimi lub działania korygujące (np. generowanie plików, komunikatów lub instrukcji SQL w celu usunięcia różnic).

Zawiłości dopasowywania w usługach finansowych są różnorodne. Pozwól nam zbadać kilka typowych przypadków użycia w krajobrazie usług finansowych:

  • Większość banków posiada tzw Główny plik papierów wartościowych, describing all securities which are in position or can be traded at the bank. This file needs to be integrated with a lot of applications, but also needs to be fed by multiple data sources, like
    Telekurs, Reuters, Bloomberg, Moody’s…​ This means a security needs to be uniquely matched. Unfortunately, there is not 1 unique identifier describing all securities. Publicly traded instruments have a commonly agreed ISIN code, but private and OTC products
    like e.g. most derivatives usually do not. Banks have therefore invented internal identifiers, use fake ISIN codes (typically starting with an “X”) or use composite keys to uniquely identify the instrument (e.g. for a derivative this can be combination of
    ticker of underlying security, strike price, option type and expiration date).

  • W bankowości detalicznej jest to oczywiście niezbędne jednoznacznie identyfikują i dopasowują konkretną osobę fizyczną. However even in a developed country like Belgium, this is easier said than done. Every individual in Belgium has a National Register Number,
    so this seems the obvious choice for a matching key. Unfortunately, Belgian laws restrict the usage of this number to specific use cases. Additionally this identifier is not existing for foreigners and can change over time (e.g. foreign residents receive first
    a temporary National Register number which can change to a definitive, other one later or in case of gender change the National Register Number will change as well). Another option is to use the identity card number, but this is also different for foreigners
    and will change every 10 years. Many banks therefore use more complex rules, like a matching based on first name, last name and birth date, but obviously this comes also with all kinds of issues, like duplicates, spelling differences and errors in the names,
    use of special characters in the names…​

  • Bardzo podobny problem dopasowanie do firmy, a dokładniej do sklepu. In Belgium, each company has a company number, which is similar to the VAT number (without the “BE” prefix), but this is again very national and 1 VAT number can
    have multiple locations (e.g. multiple stores). There exists a concept of a “branch number” (“vestigingsnummer” in Dutch), but this concept is not very well known and rarely used. Similar there exists the LEI code (Legal Entity Identifier) which is a code
    of a combination of 20 letters and codes, which uniquely identifies a company worldwide. Unfortunately, only large companies have requested a LEI code, so for smaller companies this is not really an option.
    Again more complex matchings are often done, like a combination of VAT number, postal code and house number, but obviously this is far from being ideal. In search for a unique and commonly known identifier, the Google ID becomes also more and more in use, but
    the dependency with a commercial company might also poses a big operational risk.

  • Innym ciekawym przypadkiem jest zgodność autoryzacji i komunikatu rozliczeniowego w płatności kartą VISA. Normally a unique identifier should match both messages, but due to all kinds of exception cases (e.g. offline authorizations or
    incremental authorizations), this will not always be correct. Therefore a more complex rule is required, looking at several identifiers, but also to other matching criteria like acquirer ID, merchant ID, terminal ID, PAN (card number), timestamp and/or amount.
    Ten rodzaj dopasowania dotyczy także innych przypadków użycia płatności, jak np. dopasowanie zakończenia preautoryzacji z poprzedzającą ją preautoryzacją lub zwrot pieniędzy z wcześniejszym zakupem.

  • Przypadkiem zastosowania finansowego, który dotyczy prawie każdej firmy, jest uzgadnianie faktur i płatności. When a company issues an invoice, it needs to be able to see when the invoice can be considered as paid. This is important for the accounting, but also
    to see if reminders for unpaid invoices should be sent out.
    To uniquely match the payment with the invoice, in Belgium typically a structured comment is used in the payment instruction. This unique code with check digit provides a unique matching reference. Unfortunately, customers often forget to put the structured
    comment or use the wrong one (e.g. copy/paste of a previous invoice). This means a company needs to have a fallback matching rule in case the unstructured comment is missing or wrong. Typically a combination of payment amount, payment date, IBAN of counterparty
    and/or name of counterparty can give an alternative way to match those invoices.

Jak widać dopasowywanie nie jest łatwe, ale zrozumienie podstawowych kroków może pomóc w lepszym dopasowywaniu. Tymczasem, pomimo swoich ograniczeń, Excel pozostaje potężnym narzędziem do (ręcznego) dopasowywania. Dlatego A quick reminder for everyone who wants
to do matching in Excel:

  • Zastosowanie WYSZUKAJ.PIONOWO, aby wykonać dopasowanie. WYSZUKAJ.PIONOWO ma jednak pewne ograniczenia, takie jak fakt, że wyświetla błąd w przypadku braku dopasowania i że można wyszukiwać tylko w pierwszej kolumnie. Potężną alternatywą jest użycie XWYSZUKAJ, który
    does not have these limitations.

  • Jeśli potrzebujesz złożony klucz wyszukiwania, dodaj kolumnę do zbioru danych wyszukiwania za pomocą złożonego klucza wyszukiwania (tj. połącz różne atrybuty, np. z „#” jako separatorem), a następnie użyj funkcji WYSZUKAJ.PIONOWO/XWYSZUKAJ, aby wyszukać tę nową kolumnę.

  • Trochę punkty uwagi podczas korzystania z funkcji WYSZUKAJ.PIONOWO:

    • Nie zapomnij dodać „false” jako ostatniego argumentu funkcji WYSZUKAJ.PIONOWO, aby zapewnić dokładne dopasowanie.

    • Ensure that data formats are the same. E.g. a number “123” and the text “123” will not match, so it is important to convert them to the same format first. Idem for identifiers starting with leading 0’s. Often Excel will convert those to numbers, thus removing
      the leading 0’s and not resulting in a match.

    • Nie używaj w programie Excel zestawów danych zawierających więcej niż 100.000 XNUMX wierszy. Większe zbiory danych są problematyczne dla wydajności i stabilności programu Excel.
      Interesujące może być również ustawienie trybu obliczeń na „Ręczny”, jeśli pracujesz z WYSZUKAJ.PIONOWO na dużych zbiorach danych, w przeciwnym razie Excel przeliczy wszystkie WYSZUKAJ.PIONOWO za każdym razem, gdy dokonasz niewielkiej zmiany w danych.

    • WYSZUKAJ.PIONOWO zawiera numer kolumny, który ma zostać zwrócony jako trzeci argument. Liczba ta nie jest dynamicznie dostosowywana podczas dodawania lub usuwania kolumn, dlatego pamiętaj o dostosowaniu podczas dodawania lub usuwania kolumn.

    • Jeśli chcesz tylko dopasować, możesz użyć formuły „=JEŻELI(IBŁĄD(WYSZUKAJ.PIONOWO( , ,1,fałsz),”BRAK DOPASOWANIA”,”DOPASOWANIE”)”

Te triki mogą w tym pomóc przyspieszyć ręczne dopasowywanie, ale oczywiście prawdziwa automatyzacja jest zawsze lepsza.

Dopasowanie w usługach finansowych to a wieloaspektowe wyzwanie, but understanding its fundamental steps is key to improving outcomes. While tools like Excel offer temporary solutions, the future lies in intelligent automation, which can significantly
streamline these processes. For those seeking to delve deeper into matching complexities or automation, leveraging advanced tools and platforms, including AI-driven solutions like ChatGPT, can provide both insights and practical solutions.

Sprawdź wszystkie moje blogi na https://bankloch.blogspot.com/

Znak czasu:

Więcej z Fintextra